Зачем создатель языковых моделей призвал замедлить развитие ИИ

Anthropic призвал замедлить развитие искусственного интеллекта. По мнению основателей нейросети Claude, современные модели близки к тому, чтобы развиваться без присутствия человека, и грозят выйти из-под его контроля. Это может произойти уже через год или два. Громкие заявления звучат на фоне ожесточенной технологической гонки.

По словам сооснователя Anthropic Джека Кларка, «сейчас у индустрии есть педаль газа, но нет педали тормоза». Генеральный директор IT-компании «Омега» Ярослав Алейник считает, что человечеству стоит прислушаться:

«Заявление лидера рынка всегда стоит учитывать не как маркетинговое, а более комплексно. Я лично пользуюсь Claude и вижу ту эволюцию, которая происходит от модели к модели. В некоторых случаях просто говорю: «разрешить доступ». И уже перестал какие-то вещи анализировать, потому что некоторые вещи уже не понимаю. И раз так делает большинство, что будет с искусственным интеллектом, вообще непонятно. Я достаточно активно погружаюсь в понимание сути моделей и склоняюсь к тому, что действительно есть смысл хотя бы ненадолго сделать паузу для стабилизации и торможения.

Сейчас у всех эйфория от использования ИИ. Например, в Китае есть отдельные программы обучения и воспитания детей, которые воспитывались бы с эмпатией к нейросетям и робототехнике. Возможно, должен быть какой-то свод правил или кодекс, позволяющий человечеству контролировать процесс развития технологий. Но я уверен, что все, что мы не придумаем, может быть очень просто и легко взломано. Прислушаются ли конкуренты? Это примерно как с ядерным оружием. Должно наступить осознание у большинства, должен произойти какой-то кризис или серьезная демонстрация этой технологии. Думаю, мы на пороге того, чтобы это увидеть».

Как отмечают в Anthropic, «скрыть обучение новой модели намного проще, чем строительство ракетной шахты», а любой участник гонки, не пожелавший соблюдать паузу, получит шанс вырваться вперед. Однако разработчики сильно преувеличивают уровень развития технологии, считает основатель и генеральный директор Sistemma Сергей Зубарев:

«Реальные проблемы индустрии, которые прячутся за такими лозунгами, гораздо более приземленные. Во-первых, ни одна ведущая генеративная модель не решила проблему галлюцинаций. Сами представители Anthropic говорят, что уже около 80% кода внутри компании создаются с помощью ИИ, и в перспективе эта доля может приблизиться к 100%. В таком случае мы получим закрытую систему, которая генерирует чуть-чуть бреда со временем, превращаясь в стопроцентный бред — если нет внешнего наблюдателя в виде человека, который контролировал бы результаты.

Кроме того, за последние два года рынок привык к мысли, что возможности будут расти экспоненциально. Однако сегодня отрасль сталкивается с поднятием стоимости обучения и с инференцией — это сотни миллиардов долларов. Каждый следующий шаг требует все больше вычислений, энергии, чипов, инвестиций. Если даже в несколько раз увеличить так называемую умность модели, то всей энергии в мире не хватит, чтобы ее обеспечить. То есть в этом смысле разговоры о необходимости нажать на тормоз появляются в очень удобный момент. Игроки решают две задачи. С одной стороны, действительно предупреждают о рисках утери контроля, с другой — заранее формируют общественное мнение на случай, если темпы прогресса окажутся ниже ожиданий. Дело в том, что компания заявила о выходе на IPO и на этом фоне не показывать сверхрезультата и не подготовиться заранее — опрометчиво».