Трамп призвал не замедлять развитие ИИ и столкнулся с критикой в Конгрессе

В США идет дискуссия по поводу введения ограничений на развитие ИИ для крупнейших компаний в мире в этой сфере. Многие демократ:ки и республикан:ки в Конгрессе США раскритиковали Дональда Трампа за то, что президент США призвал не останавливать развитие ИИ.

На этой неделе опасения по поводу опасного потенциала искусственного интеллекта достигли апогея после того, как лидеры технологической отрасли, включая компании Anthropic и OpenAI поделились опасениями по поводу стремительного развития этой технологии и ее потенциальной угрозы для человечества.

Трамп отверг эти опасения, назвав их «мистификацией» и «заговором», и заявил в социальных сетях: «Единственный контроль или “ограничительные меры”, необходимые ИИ, — это СИЛЬНЫЙ И УМНЫЙ (с высоким IQ!) ПРЕЗИДЕНТ, и у США он есть в избытке!».

По данным опросов, проведенных Университетом Мэриленда, 85% демократо:к и 79% республикан:ок хотят создания нового федерального агентства для мониторинга и регулирования ИИ, а еще 82% демократо:к и 78% республикан:ок выступают за государственные проверки безопасности ИИ при принятии важных решений.

В то же время три исследователя из Anthropic заявили, что ИИ может нанести серьезный урон человечеству в ближайшие десятилетия. Дарио Амодей, генеральный директор Anthropic, заявил в эссе, что через шесть-двенадцать месяцев «рой» агентов ИИ может атаковать весь интернет и нанести ущерб на сотни миллиардов долларов.

Исследователь Anthropic Эван Хубингер даже заявил, что оценивает вероятность того, что ИИ приведет к вымиранию человечества «в течение ближайшего десятилетия», более чем в 10%.

На фоне этого компания OpenAI, которая разработала ChatGPT, отказалась от выхода на биржу, который был запланирован на этот год. Причиной стали опасения из-за стремительного развития ИИ.

Microsoft AI опубликовала программный документ, в котором изложила концепцию так называемого «гуманистического ИИ». Глава компании Мустафа Сулейман подчеркнул, что они работали над новыми принципами несколько месяцев, однако решили опубликовать их именно сейчас на фоне развернувшейся дискуссии о рисках ИИ.

Ученые против ИИ

11 сентября группа из 25 лауреато:к Филдсовской премии (самый престижной награды в области математики) опубликовали письмо, которое посвящено применению ИИ в математике.

Ученые заявили, что применение ИИ для решение математических задач наносит ущерб математической науке, хотя также признают, что ограниченное использование искусственного интеллекта может быть полезным.

Так, в письме ученые сравнивают известные задачи с «ориентирами и маяками» на математическом ландшафте и говорят, что решение задачи оворило о появлении новых идей и методов, которые потом долго и кропотливо изучали, обсуждали и упрощали. Таким образом стимулировалась научная деятельность, а решение самой задачи — это лишь один из инструментов, с помощью которого обучаются студенты-математики.

«Массовое производство утверждений типа „истина/ложь“ все более быстрыми темпами может уничтожить плодородную почву вместо того, чтобы вдохнуть жизнь в новые идеи», — пишут авторы, отмечая, что интегрировать ИИ в научную деятельность нужно без ущерба для научной коммуникации.