Трамповская администрация бросает вызов попыткам борьбы с предвзятостью в ИИ, вызывая бурные споры
В Соединённых Штатах разразилась настоящая дискуссия о будущем разработки искусственного интеллекта (ИИ). Поводом послужила неожиданная смена политического курса администрации Дональда Трампа, которая поставила под сомнение усилия технологических гигантов по устранению предвзятости в системах ИИ.
Крупнейшие компании, такие как Amazon, Google, Meta и Microsoft, не один год вкладывали значительные средства в программы, направленные на снижение алгоритмических предрассудков своих ИИ-систем. Эти инициативы были призваны устранить выявленные проблемы, когда алгоритмы демонстрировали расовую и гендерную предвзятость. Например, исследования показывали, что технологии распознавания лиц часто ошибаются в определении людей определённых этнических групп, а инструменты генерации изображений порой укореняют вредные стереотипы.
Однако нынешнее правительство считает эти меры чрезмерными и продиктованными идеологией. Министерством юстиции уже были отправлены повестки в суд крупнейшим IT-компаниям с просьбой предоставить информацию о возможном влиянии государственных структур на их процессы разработки ИИ. Администрация твёрдо убеждена, что системы искусственного интеллекта должны разрабатываться без «идеологической предвзятости,» и при этом акцент следует делать на экономической конкурентоспособности и национальной безопасности.
Такой поворот событий встревожил экспертов и исследователей, посвятивших свою карьеру обеспечению справедливости ИИ-технологий. Известный социолог Гарварда Эллис Монк, разработавший шкалу оттенков кожи Монка для улучшения инклюзивности инструментов генерации изображений, выражает опасения, что политическое противодействие может затормозить будущие усилия по борьбе с алгоритмической предвзятостью.
Дискуссия обострилась после случаев, подобных инциденту с Gemini AI от Google, столкнувшегося с критикой за чрезмерное исправление предвзятости, что привело к искажениям изображений исторических фигур США. Подобные ситуации заставляют консерваторов утверждать, что инициативы по устранению предвзятости в ИИ продвигают левую повестку.
Вице-президент Джей Ди Вэнс и другие чиновники правительства обещают избавить системы искусственного интеллекта от идеологической предвзятости. Это привело к тому, что Министерство торговли США убрало из своих политик упоминания о «ответственном ИИ» и справедливости, сосредоточив внимание на снижении идеологического влияния и улучшении экономической конкурентоспособности.
Сейчас технологическая отрасль находится в сложных условиях: усилия по созданию справедливых и непредвзятых ИИ-систем подвергаются серьёзному анализу. Задача балансировки между инновациями и необходимостью учёта социальных предвзятостей в технологиях остаётся критически важной. Пока администрация делает ставку на разработку ИИ, свободного от предполагаемых идеологических влияний, будущее справедливых практик в ИИ-отрасли остаётся неясным.
Комментариев