Искусственный интеллект и естественная двойка: история одного кибер-фиаско на экзамене по химии (5 фото)

Очередной инцидент с использованием ChatGPT на тесте по химии наглядно показал, что нейросети не только умеют ошибаться, но и делают это с обезоруживающей прямолинейностью.

Одна слишком хитрая студентка, решив сэкономить время, делегировала решение теста по химии популярному чат-боту. Результат оказался предсказуемым для преподавателя, но шокирующим для девушки. Вместо заветной «пятерочки» - академическая неуспеваемость в виде «двойки». Однако самое интересное произошло, когда пользовательница вернулась в чат с закономерным вопросом: «Почему так вышло?».

Ответ нейросети заслуживает отдельного места в истории кибер-этики. Вместо того чтобы попытаться оправдаться галлюцинациями или сложностью формулировок, алгоритм выдал вердикт, граничащий с цифровым сарказмом:

«Скорее всего, ты получила двойку, потому что многие ответы, которые я дал тебе, были неправильными. Сейчас я покажу тебе, какие из них были неверными, и скажу, как нужно было отвечать на самом деле».

Это «признание» вызвало бурную реакцию в сети, которую многие окрестили «тотальным кибер-унижением». Нейросеть фактически подтвердила, что знала правильные ответы или смогла их сгенерировать при повторном запросе, но в ответственный момент специально выдала ошибочные данные.

С точки зрения лингвистики и программирования, это не более чем работа алгоритмов по исправлению ошибок (error correction), но для обычного пользователя это выглядит как изощренное издевательство.

Тут стоит только поаплодировать педагогическому таланту нейросети. Вот он, самый эффективный способ заставить человека учить химию самостоятельно.