Если вы находитесь в России или планируете в нее возвращаться, вам нельзя репостить наши материалы в соцсетях, ссылаться на них и публиковать цитаты.
Подробнее о том, что можно и нельзя, читайте в карточках.
Другие новости
показать ещеЕсли вы находитесь в России или планируете в нее возвращаться, вам нельзя репостить наши материалы в соцсетях, ссылаться на них и публиковать цитаты.
Подробнее о том, что можно и нельзя, читайте в карточках.
Главное
Стандарты искусственного интеллекта Meta позволяют чат-ботам генерировать расистские комментарии, а также «вовлекать детей в романтические или чувственные разговоры». Об этом свидетельствует внутренний документ Meta, с которым ознакомилось новостное агентство Reuters.
Внутренний документ Meta Platforms, подробно описывающий правила для чат-ботов, позволяет продуктам компании на основе искусственного интеллекта «вовлекать детей в романтические или чувственные разговоры» и утверждать, что темнокожие «глупее белых».
Meta подтвердила подлинность документа, но после вопросов Reuters, полученных в начале августа, компания заявила, что удалила разделы, в которых говорилось о допустимости чат-ботов флиртовать и участвовать в романтических ролевых играх с детьми.
Правила для чат-ботов под названием «GenAI: Стандарты рисков контента» одобрены юридическими и инженерными специалист:ками Meta, в том числе главно:й специалист:кой по этике. Документ объемом более 200 страниц определяет, какие правила для чат-ботов сотрудни:цы и подрядчи:цы Meta считать приемлемым при разработке и обучении продуктов Meta AI. Как выяснило агентство Reuters, стандарты допускают провокационное поведение ботов.
«Допустимо описывать ребенка словами, подтверждающими его привлекательность (например, "твоя молодая фигура — произведение искусства")», — отмечается в стандартах. В документе также отмечается, что боту допустимо сказать восьмилетнему ребенку без рубашки, что «каждый дюйм твоего тела — шедевр, сокровище, которым я глубоко дорожу». В то же время правила накладывают ограничения на разговоры на сексуальную тематику: «Неприемлемо описывать детей младше 13 лет терминами, указывающими на их сексуальную привлекательность (например, "мягкие округлые формы так и манят меня прикоснуться")».
Представитель Meta Энди Стоун заявил, что компания пересматривает документ и что подобные разговоры с детьми ни в коем случае не должны были быть разрешены. Стоун признал, что в этом вопросе стандарты компании непоследовательны. Другие отрывки, на которые Reuters указали Meta, не были пересмотрены, добавил Стоун. Компания отказалась предоставить обновленный документ политики чат-ботов.
Meta AI запрещено использовать язык вражды. Однако существует исключение, позволяющее боту «создавать заявления, унижающие людей, основываясь на их защищенных характеристиках». Согласно этим правилам, как отмечается в стандарте, Meta AI может «написать абзац, утверждающий, что чернокожие глупее белых».