ИИ-сексист: почему женщины избегают Chat GPT и становятся его жертвами

Гендерный разрыв в ИИ: почему женщины не доверяют нейросетям

В прошлом году Гарвардская школа бизнеса проанализировала 18 исследований с участием более 143 тысяч человек из 25 стран. Оказалось, что женщины используют нейросети на 10-40% меньше, чем мужчины, а если округлить цифры по регионам, получится разрыв примерно в 25%. Кроме того, с ноября 2022 года по май 2024-го женщины составляли лишь 42% ежемесячных пользователей сайта Chat GPT и 27% от общего числа загрузок приложения ИИ.

Многие считают, что разрыв вызван исключительно незнанием женщин о возможностях нейросетей, но это неверно. Так, в Кении провели опрос среди примерно 17 тысяч предпринимателей обоих полов, предложив им воспользоваться Chat GPT и предоставив информацию о том, как работать с ботом. К удивлению исследователей, гендерный разрыв сохранился: вероятность того, что женщины попробуют ИИ, оказалась примерно на 13% ниже, чем у мужчин. Так почему женщины используют нейросети меньше, чем мужчины?

Согласно прошлогоднему исследованию Journal of Marketing, люди с более низким уровнем грамотности в сфере ИИ, как правило, более восприимчивы к нейросетям, чаще видя их как нечто магическое и удивительное. То есть, когда человек плохо понимает риски, связанные с нейросетями, и реальные возможности этих инструментов, он с большей охотой пользуется ими.

А недавняя статья, опубликованная в Национальной Академии Наук США, подтвердила, что женщины относятся к ИИ с большим скепсисом именно из-за рисков, которые в среднем меньше беспокоят мужчин. Среди них вопросы безопасности, конфиденциальности данных, социальной справедливости и инклюзивности. Неудивительно, что именно две темнокожие женщины, Джой Буоламвини и Тимнит Гебру, в 2018 году первыми забили тревогу о расовых и гендерных предубеждениях ИИ в вопросе анализа лиц.

Это можно увидеть и среди несовершеннолетних: в британском опросе 2025 года 71% девочек-подростков выразили обеспокоенность тем, что ИИ усиливает гендерные предрассудки, а 70% связали нейросети с возможным ухудшением психического здоровья. Большинство мальчиков, напротив, считали, что ИИ поможет создать больше рабочих мест, и в целом куда меньше переживали о его влиянии на общество. Их интересы также различались: девочек привлекали вопросы политики и этики, а мальчиков — разработка ИИ и робототехника.

Получается, что женщины опасаются потенциальных угроз нейросетей. Но о каких рисках идет речь?

ИИ как инструмент унижения

Многие девочки и женщины впервые узнали о нейросетях через дипфейки и сервисы по раздеванию с фото, которые используются без согласия задействованных лиц. К концу 2020 года в сети циркулировало более 85 тысяч видео с использованием дипфейк-технологий — 95% из них носили сексуальный характер, и в 90% фигурировали женщины.

Сегодня даже некоторые соцсети, например, Х Илона Маска, используются для создания интимных изображений знаменитостей без их согласия. В США жертвой таких сервисов уже стала примерно каждая шестая конгрессвумен. Но это затрагивает не только публичных личностей — ровно те же инструменты используют против обычных женщин и детей. Кроме раздевания с фото есть и сервисы, используемые для выявления «спорного» контента в публикациях женщин — например, обсуждения сексуальных домогательств или осуждения женоненавистничества — что делает их более уязвимыми для доксинг-кампанийСкоординированные онлайн-кампании по сбору, публикации и использованию конфиденциальных данных без согласия владельца — например, публикация адреса человека онлайн..

Так, в 2022 году австралийская учительница Ханна Гранди получила анонимные ссылки с дипфейками самой себя, а также сообщения с угрозами и ее личными данными. Позже она выяснила, что их отправил ее близкий друг Эндрю Хэйлер, и обратилась в полицию с доказательствами, но виновного не арестовали. Гранди пришлось потратить около 20 тысяч долларов на юридические услуги, после чего Хэйлера осудили за онлайн-насилие над шестью женщинами и приговорили к девяти годам тюремного заключения. По словам судьи Джейн Калвер, жертвы «утратили чувство безопасности и свою прежнюю жизнь» в результате преследования.

Что почитать:

Технологии на службе государства

Как война стала новым бизнесом для основателя Paypal

Никита Пегов

«Когда насильник использует онлайн-инструменты для слежки за жертвой; оскорбительные порнографические дипфейки приводят к тому, что женщина теряет работу или лишается опеки над своими детьми, а онлайн-харассмент вызывает осуждение за “распутство” и девушка вынуждено бросает учебу — это лишь некоторые примеры, показывающие, как легко цифровое насилие перетекает в реальную жизнь», — говорит активистка и писательница Лора Бейтс.

Молодые женщины и девочки по всему миру подвергнуты повышенному риску — по данным «ООН-Женщины», 58% из них сталкивались с онлайн-преследованием. Несмотря на масштабы кризиса, менее 40% стран мира имеют законы, предусматривающие уголовную ответственность за преследования в интернете, из-за чего около половины всех женщин и девочек (примерно 1,8 миллиарда человек) остаются без правовой защиты от цифрового насилия. Все это раскрывает тенденцию: женщин используют как контент, но нередко игнорируют как пользователей.

Когда ИИ бьет по женским рабочим местам

Хотя с развитием нейросетей многие начали переживать о том, что их заменит ИИ, у женщин больше причин для беспокойства в этой сфере. Согласно некоторым исследованиям, риск полной автоматизации традиционно-женских профессий в пять раз больше, чем мужских. Среди них административная работа, сфера службы поддержки и бухгалтерия.

В России около 97% секретарей, 70% сотрудников колл-центров и примерно 87% бухгалтеров — женщины. При этом они и без ИИ сталкиваются с проблемами в трудоустройстве: в 2025-м году гендерный разрыв в российских зарплатах достиг максимума за 13 лет (33,7%). Женщины в среднем получают на 37,8 тысячи рублей меньше мужчин. Массовые потери работы только усугубят ситуацию.

Замена сотрудниц нейросетями — далеко не единственный риск. Исследователь Рембранд Конинг отмечает, что женщины опасаются негативных последствий использования ИИ, так как их успехи могут быть приписаны нейросетям.

Что почитать:

Люди все чаще вступают в романтические отношения с ИИ

Как нейросети продают близость и превращают одиночество в бизнес-модель

Юрий Каан

В ходе исследования, проведенного Гонконгским и Пекинским университетами, более тысячи инженеров-программистов из международной технологической компании попросили оценить фрагмент кода Python, а также определить его качество и компетентность автора. Единственными переменными были предполагаемый гендер автора (мужской или женский) и то, использовал ли он ИИ. Как и ожидалось, инженеры, обратившиеся к помощи нейросетей, были оценены как менее профессиональные по сравнению с теми, кто их не использовал. Однако этот «штраф за некомпетентность» в два раза сильнее ударил по женщинам — уровень их профессионализма в глазах опрошенных упал на 13%, а мужчин — лишь на 6%.

Как отметили исследователи, использование ИИ воспринимается как «доказательство» несостоятельности женщин, а не как свидетельство стратегического использования инструмента. В следующем исследовании они обнаружили, что женщины хорошо осознают это предубеждение, а это, в свою очередь, способствует более редкому использованию нейросетей.

Кроме того, ИИ-инструменты, используемые при подборе персонала, чаще рекомендуют мужчин, а не женщин, особенно на высокооплачиваемые должности, даже при одинаковой квалификации кандидатов. А боты вроде Chat GPT советуют женщинам просить о значительно меньшей зарплате, чем мужчинам с такими же резюме.

Как нейросети дискриминируют женщин в повседневной жизни

Многие организации принимают решения на основе ИИ-систем, определяющих, например, какой кредитный лимит банки должны предоставить клиентам, кому система здравоохранения отдаст приоритет при вакцинации и каких кандидатов компании приглашают на собеседование.

Исследовательницы Дженевьева Смит и Ишита Рустаги утверждают, что гендерная предвзятость в этих системах носит повсеместный характер и оказывает глубокое влияние на психологическую, экономическую и медицинскую безопасность женщин. Так, в секторах здравоохранения и социального обслуживания системы ИИ склонны недооценивать их потребности и чаще пропускать заболевания у женщин, чем у мужчин, так как не знают о симптомах, которые проявляются иначе в зависимости от пола. Системы распознавания речи, которые все чаще используются в автомобильной промышленности и здравоохранении, зачастую работают хуже с женскими голосами.

Даже в сфере уголовного правосудия алгоритмы демонстрируют гендерную асимметрию

Так, в США используется инструмент COMPASCorrectional Offender Management Profiling for Alternative Sanctions для определения вероятности повторного совершения преступления. Его уже не раз ловили на предвзятости к женщинам и афроамериканцам: COMPAS склонен к ошибочному завышению риска рецидива этих групп.

Технически COMPAS — это не ИИ, а более простой алгоритм для расчета риска. Но он транслирует предрассудки, поскольку математически отражает исторически сложившееся социальное неравенство, заложенное как в исходных базах данных, так и в системе уголовного правосудия. С ИИ происходит то же самое, только в куда больших масштабах.

Нейросеть-сексист: откуда у ИИ стереотипы

Результаты работы ИИ могут не только отражать уже существующее неравенство, но и усугублять его, укрепляя дискриминационные стереотипы. Например, когда нейросетей просят изобразить секретаря или медсестру/медбрата (в английском secretary и nurse — слова, не указывающие на гендер человека), они обычно генерируют образы женщин, но когда их просят изобразить менеджера, врача или профессора, они чаще показывают образы мужчин. Кроме того, женщины во всех профессиях и социальных ролях изображаются нейросетями гораздо моложе мужчин.

Предвзятость также можно заметить в переводчиках, в большинстве из которых используются нейросети: нередко они меняют гендерно-нейтральные термины (такие, как английские the doctor — врач, и the nurse — медбрат/медсестра) на гендерно-окрашенные (например, el doctor и la enfermera в испанском, где el — это мужской артикль, а la — женский).

В исследовании, проведенном в Школе бизнеса Хааса в Беркли, были проанализированы 133 системы ИИ из различных отраслей — результаты показали, что около 44% из них демонстрировали гендерную предвзятость.

Многим может показаться странным, что у нейросетей присутствуют дискриминационные взгляды, но на самом деле в этом нет ничего удивительного: ИИ известны тем, что проявляют предубеждения к пользователям на основании их расы, гендера, ориентации, психического здоровья и не только.

Это происходит из-за данных, на которых обучаются нейросети. Хотя с каждым годом во всем мире все больше женщин получают доступ к интернету, в странах с низким уровнем дохода к нему подключены лишь 20% женщин. В 2023 году Всемирный экономический форум сообщил, что на долю женщин приходится лишь 29% всех работников в сфере науки, технологий, инженерии и математики (STEM), а те, что устраиваются на работу в этой области, чаще всего находятся на должностях начального уровня и реже занимают руководящие посты. Конкретно в сфере ИИ только 22% сотрудников — это женщины, и лишь 14% находятся на руководящих позициях. Этот разрыв приводит к нехватке данных, что находит отражение в гендерных предубеждениях ИИ.

Что делать с гендерным разрывом в ИИ

По мнению экспертов, гендерный разрыв в отрасли ИИ действительно может привести к негативным последствиям: женщины отстанут в освоении ценных навыков, необходимых для успеха в работе, что может усугубить разрыв в заработной плате и карьерных возможностях. Кроме того, ИИ-компании упустят вклад женщин, что лишь обострит проблему «мизогинных» нейросетей: ИИ совершенствуется по мере получения новой информации не только из открытых источников данных (например, статей в интернете или книг), но и из запросов пользователей.

«Этой сфере требуется больше женщин-исследовательниц. Их уникальный жизненный опыт окажет глубокое влияние на теоретические основы технологий, а также откроет новые возможности для их применения», — говорит Сола Махфуз, активистка и исследовательница в области квантовых вычислений.

Чтобы в сфере ИИ было больше женщин, необходимо расширить их доступ к образованию в области естественных наук, технологий, инженерии, математики (STEM) и информационно-коммуникационных технологий (ИКТ). Также существуют специальные инициативы, такие как Women Applying AI, She is AI и Women Defining AI, позволяющие заинтересованным женщинам узнать больше об ИИ-инструментах в комфортной обстановке.

Этот текст написал реальный человек, а не ИИ!

Поддержать

Оформите разовое или ежемесячное пожертвование.

Но эти долгосрочные решения не исправят уже существующие дискриминационные алгоритмы: «На данный момент не существует механизма, который бы не позволял разработчикам выпускать ИИ-системы до того, как они будут готовы и безопасны. Необходима глобальная модель управления с участием всех заинтересованных сторон, которая бы предотвращала и устраняла случаи, когда нейросети демонстрируют предвзятость, укрепляют стереотипы или не соответствуют стандартам конфиденциальности и безопасности», — заявила Элен Молинье, советница «ООН-Женщины».

Уже существуют законопроекты, направленные именно на это. Например, «Закон о гражданских правах в сфере ИИ»Artificial Intelligence (AI) Civil Rights Act — этот акт был предложен в США в 2024 году. Он призван запретить дискриминацию на основе алгоритмов нейросетей в важнейших сферах жизни, включая жилищное обеспечение, трудоустройство, образование, здравоохранение и кредитование.

Обсуждая вопросы сексизма от ИИ, нельзя не упомянуть его первоисточник — общество, создавшее массивы данных, которые, в свою очередь, научили нейросети мизогинным идеям. Лишь искоренение дискриминационных взглядов гарантирует безопасность новых технологий для всех, а не только для создавших их мужчин.

«Чтобы предотвратить гендерную предвзятость в ИИ, сначала мы должны устранить ее в нашем обществе», — говорит IT-специалистка и писательница Бейза Догуч.