Исследователь ссылается на прогноз Юдковски от 2016 года относительно теста Тьюринга, чтобы поставить под сомнение его способность оценивать риски гибели ИИ

Исследователь в области ИИ Мэтью Барнетт 23 мая опубликовал пост, в котором отметил, что заявление Элизера Юдковски от 2016 года — в нем Юдковски говорил, что был бы «довольно шокирован», если бы ИИ смог пройти неограниченный часовой тест Тьюринга до конца света — имеет отношение к оценке его репутации как специалиста по прогнозам относительно угроз со стороны ИИ. Пост набрал более 77 000 просмотров и 96 комментариев. НатанпмЯнг ответил, что это заявление дает «некоторые доказательства, но не много», а Хайме Севилья указал, что позже Юдковски признал неточность данного прогноза, приведя также другие верные предсказания, включая оценку вероятности победы ИИ на Олимпиаде по математике к 2025 году в 16%.

В комментариях критики утверждали, что Барнетт выбирает лишь один показатель вместо того, чтобы проанализировать всю совокупность прогнозов Юдковски; Дэвид Манхайм назвал такой подход «предвзятым». Другие сомневались, способны ли современные модели вообще пройти подобный тест из-за их неравномерных характеристик. Барнетт уточнил, что не уверен, смогли бы нынешние ИИ преодолеть этот порог, однако полагает, что прогноз в итоге окажется неверным. Данная дискуссия отражает сохраняющиеся разногласия в сообществе по безопасности ИИ относительно методов объективной оценки экспертов, чьи выводы лежат в основе важнейших политических решений и исследований.

X / @MatthewJBar }