Директор-распорядитель Международного валютного фонда Кристалина Георгиева выступила с тревожным заявлением об искусственном интеллекте в ходе ежегодных встреч МВФ и Всемирного банка, которые проходят на этой неделе в Бангкоке. «Без защитных мер риски могут превысить возможности», — предупредила она, призвав ключевых игроков отрасли к регулированию и контролю за технологией.
В дискуссии также участвовал Джек Кларк (Jack Clark), сооснователь и директор по политике компании Anthropic — разработчика языковой модели Claude, которая сейчас находится на пороге одного из крупнейших IPO в истории США. Георгиева подчеркнула, что для ответственного внедрения ИИ «прежде всего необходимы этические основы», добавив: «И я не уверена, есть ли они у нас как у общества». При этом она признала, что уже заметен «рост производительности» благодаря ИИ, хотя пока не в «трансформативном масштабе».
Выступление Георгиевой перекликается с последним докладом World Economic Outlook, опубликованным самим МВФ. В документе отмечается, что инвестиции в искусственный интеллект «придали импульс глобальной активности и поддержали международную торговлю» благодаря массовому финансированию инфраструктуры и оборудования. Однако эксперты фонда предупреждают, что «ещё предстоит увидеть, превратится ли этот положительный шок спроса в долгосрочный положительный шок предложения».
Особое внимание привлекла метафора, которую использовала глава МВФ. Она сравнила большие языковые модели с гонками Формулы-1: «Я испытываю глубочайшее уважение к индустрии, считаю, что она несёт человечеству огромный дар. Но если посреди гонки машина вылетит с трассы и убьёт людей, возможно, этот дар того не стоит». По её словам, ответственность за безопасность лежит прежде всего на технологических компаниях, поскольку «правительства не могут регулировать то, что движется с такой скоростью», — у них просто не хватает компетенций.
Кларк из Anthropic подхватил эту мысль и усилил её: «Всё ещё хуже, чем она думает. Это как машина Формулы-1 — ночью и без тормозов». По мнению сооснователя Anthropic, прежде чем вводить регуляторные барьеры, необходимо «установить общий стандарт» для моделей ИИ, и эта задача ложится на администрации. «Мы тестируем наши системы, делимся результатами тестов, всей информацией — и делаем это добровольно. Так быть не должно», — заявил Кларк, настаивая на обязательном, а не добровольном тестировании.