Ошибки при работе с нейросетями.
Привет, сегодня воскресенье, думаю, не грузить вас серьезными разговорами.
Давайте расскажу про несколько ошибок при работе с нейросетями в больших проектах.
Важно помнить, что качество данных - это основа успешной работы нейросетей. Компания IBM, создавая помощника для врачей-онкологов, использовала не только реальные медицинские данные, но и гипотетические сценарии развития болезни вместе с обучением на наборах «уличного жаргона», что привело к неправильным и анекдотичным рекомендациям, например ответам в стиле “bullshit”, что не совсем приемлемо для врачебного консультанта.
А чат-бот Tay, писавший про то, что ненавидит темнокожих, на Twitter (кстати, его забанили за расизм) стал таким из-за отсутствия очистки данных от нежелательного контента. Так что обучение на качественных данных - это основа успеха!
Без должного контроля решения искусственного интеллекта могут привести к непредсказуемым последствиям. Катастрофы, случившееся с Boeing 737 MAX и гибель более 300 человек стали примером того, что недостатки AI могут иметь серьезные последствия.
А излишняя надежда на ИИ в мире финансов привела к тому Knight Capital Group за пару минут потеряла $440 млн из-за алгоритма высокочастотной торговли.
Вывод в том, что нам ещё над многим нужно работать в связке с искусственным интеллектом, чем и займёмся на буднях.
Хорошего вечера!
Привет, сегодня воскресенье, думаю, не грузить вас серьезными разговорами.
Давайте расскажу про несколько ошибок при работе с нейросетями в больших проектах.
Важно помнить, что качество данных - это основа успешной работы нейросетей. Компания IBM, создавая помощника для врачей-онкологов, использовала не только реальные медицинские данные, но и гипотетические сценарии развития болезни вместе с обучением на наборах «уличного жаргона», что привело к неправильным и анекдотичным рекомендациям, например ответам в стиле “bullshit”, что не совсем приемлемо для врачебного консультанта.
А чат-бот Tay, писавший про то, что ненавидит темнокожих, на Twitter (кстати, его забанили за расизм) стал таким из-за отсутствия очистки данных от нежелательного контента. Так что обучение на качественных данных - это основа успеха!
Без должного контроля решения искусственного интеллекта могут привести к непредсказуемым последствиям. Катастрофы, случившееся с Boeing 737 MAX и гибель более 300 человек стали примером того, что недостатки AI могут иметь серьезные последствия.
А излишняя надежда на ИИ в мире финансов привела к тому Knight Capital Group за пару минут потеряла $440 млн из-за алгоритма высокочастотной торговли.
Вывод в том, что нам ещё над многим нужно работать в связке с искусственным интеллектом, чем и займёмся на буднях.
Хорошего вечера!