Эксперт усомнился в угрозе ИИ для человечества

Бывшие работники Google DeepMind и Anthropic заявили о потенциальной угрозе искусственного интеллекта для человечества. Исследователь Билал Чугтай в соцсети отметил, что у «ИИ есть потенциал убить нас всех», а разработчик Джейкоб Коксон обвинил создателей ИИ-моделей в «игре с нашими жизнями» ради сверхинтеллекта, который может «убить всех нас уже к концу десятилетия».

«Ни одна компания не действует ответственно. Мы движемся по одному из наиболее радикальных сценариев, при котором уже к концу следующего года ситуация может выйти из-под контроля», — сказал Коксон в интервью Wall Street Journal.

27-летний Коксон, специализировавшийся на обучении моделей ИИ на больших данных, покинул Anthropic и решил уйти из индустрии из-за опасений, что разработчики слишком быстро создают системы, способные к самосовершенствованию и выходу из-под контроля. Он уверен, что конкуренция с китайскими компаниями ведет к компромиссам в безопасности, и боится, что модели перестанут подчиняться людям.

О рисках ускоренного развития ИИ говорил и гендиректор OpenAI Сэм Альтман. На саммите G20 в Северной Каролине он заявил: «Я думаю, что с кибербезопасностью кое-что пойдет очень не так, если люди не предпримут срочных мер». Главный научный сотрудник OpenAI Якуб Пачоцки также призвал к согласованному замедлению разработки ИИ и вмешательству государства.

Коксон, Пачоцки и Амодеи вошли в тысячу исследователей ИИ, подписавших заявление с призывом к международной координации и созданию механизмов для замедления разработки моделей, способных к самосовершенствованию. Ни Google, ни Anthropic обвинения не комментируют.

Стоит ли бояться таких предостережений? Журналист MSK1.RU поговорил с Романом Душкиным, генеральным директором «А-Я эксперт», профессором МИПУ (Международный научно-исследовательский институт проблем управления).

— Весь мир буквально взорвался после откровений бывших сотрудников Google и Anthropic? Нам, обывателям, точно стоит бояться?

— Обыватель, человек тревожный, боится всего. Особенно когда журналисты подогревают эти страхи, потому что тревогу продать проще, чем что-то хорошее. Зачем из частных мнений уволившихся сотрудников раздувать катастрофу, мне, честно говоря, не очень понятно.

Вообще, когда говорят, что искусственный интеллект уничтожит человечество, я не очень понимаю, что вообще имеется в виду. Искусственный интеллект — это кто или что? Это вот эта какая-то штуковина, которая завелась в огромной сети интернет и там злоумышляет против человечества?

Или, как меня всю жизнь учили, искусственный интеллект — это наука, которая использует средства компьютерной техники, чтобы моделировать когнитивные процессы, которые мы наблюдаем у человека.

— Ну, так простому человеку, когда говорят про ИИ, сразу вспоминается «Терминатор», где «Скайнет» развязала ядерную войну.

— А почему вы вспоминаете не «Матрицу»? Или не фильм «Она», где главный герой влюбился в систему ИИ, и у них потом произошла драма, потому что куча других людей в нее тоже влюбилась. И она такая: «А что такого-то? Ну, я всем хочу помочь. Всем одиноким людям хочу помочь».

Вообще, по-моему, если человечество кто-то и уничтожит, то только оно само себя. А вот какой инструмент для этого будет использован: искусственный интеллект, ядерные технологии или что-то другое?

Я прошу прощения, но и у фармакологии есть потенциал уничтожить всё человечество. Согласны же? В принципе, у любой достаточно развитой технологии есть по большому счету такой потенциал. Но это не значит, что нужно бояться конкретно ИИ.

— Кстати, вы почему-то не употребляете термин нейросеть. Задам дилетантский вопрос: а разве нейросеть и ИИ — это не одно и то же?

— Нейросеть — это только один из тех подходов для моделирования, о которых я говорил. При этом делаются модели когнитивных процессов, чтобы затем эти модели изучать. Мы моделируем что-то и изучаем этот предмет, чтобы понять природу нашего собственного разума — тех когнитивных процессов, которые происходят у нас внутри головы.

А то, что в процессе такого исследования появилось большое количество прикладных технологий, которые сегодня используются для решения задач автоматизации (или, как мы говорим, интеллектуализации) разных процессов — это же прекрасно. Ведь наука должна давать прикладной результат!

— То есть обывательские страхи перед ИИ — это результат непонимания сущности технологий?

— Вот мы начали с утверждения каких-то уволившихся сотрудников, будто бы ИИ уничтожит человечество. Да ведь в принципе неправильно говорить, что ИИ что-то там самостоятельно сделает. Это очеловечивание технологий — оно в глазах экспертов, инженеров настолько странно и убого выглядит.

Да, когда на обывательском уровне появляются всякие страшилки, это от непонимания того, что вообще из себя представляет наука, технология, инженерия и так далее. Я поражаюсь, что сегодня любой человек, кто только вчера узнал, что такое искусственный интеллект, вдруг начинает выставлять себя экспертом в этой области.