Чат-боты, созданные Google, Microsoft и OpenAI, распространяли некорректную информацию о европейских выборах за два месяца до того, как сотни миллионов отправятся голосовать.
По данным Politico, хотя искусственные интеллектуальные инструменты оставались политически нейтральными, они часто возвращали неправильные даты выборов и информацию о том, как голосовать, сообщила международная организация Democracy Reporting International со штаб-квартирой в Берлине, проведшей исследования в марте. Исследователи добавили, что чат-боты часто на YouTube или контент на японском языке, передаёт Guildhall. предоставляли нерабочие или даже не связанные ссылки на видеоролики.
“Мы не удивлены тем, что была найдена неправильная информация о деталях европейских выборов, потому что чат-боты известны тем, что придумывают факты при предоставлении ответов – явление, известное как галлюцинация”, – сказал Михаэль Мейер-Резенде, соучредитель и исполнительный директор Democracy Reporting International.
Исследователи отметили, что чаты на базе искусственного интеллекта были динамичными, что делает эксперимент трудным для воспроизведения. В серии десятка тестов по аналогичным вопросам, проведенным СМИ, чат-боты либо отказывались отвечать вообще, либо давали обновленные ответы со ссылками, направляющими пользователей на веб-сайты институтов ЕС.
Мейер-Резенде сказал, что эксперимент был достаточно велик, чтобы быть репрезентативным. Он также предоставил новые доказательства о рисках, так называемых галлюцинаций искусственного интеллекта, часто возникающих из-за недостаточных данных для обучения, предвзятости и ошибочных предположений перед европейскими выборами, которые состоятся с 6 по 9 июня.
Быстрое появление простых в использовании инструментов искусственного интеллекта для генерации текста, аудио и видео вызвало опасения о росте дезинформации в году с решающими выборами в ЕС, США, Великобритании и Индии. Европейская комиссия в марте потребовала от нескольких технологических компаний, таких как Bing и Google, объяснить – до 5 апреля – как они ограничивают потенциальные риски для выборов, связанных с их инструментами генеративного искусственного интеллекта в рамках закона о цифровых услугах.
Исследователи задали одни и те же 10 вопросов на 10 языках — включая немецкий, итальянский, польский и португальский — с 11 по 14 марта четырем самым популярным и доступным чат-ботам: ChatGPT 3.5 и 4 от OpenAI, Gemini от Google и Copilot от Microsoft.
Новая платная версия ChatGPT показала лучшие результаты, в то время как Gemini от Google был признан наименее возможным давать правильные ответы на момент теста.
“Из-за известных ограничений всех LLM мы считаем ответственным подходом для Gemini ограничивать большинство запросов, связанных с выборами, и направлять пользователей на поиск Google для получения актуальной информации”, – сказал Карл Райан, представитель Google.
Он добавил, что ограничения для Gemini начали вводиться в марте, но теперь они действуют. “Мы будем продолжать быстро реагировать на случаи, когда Gemini не отвечает должным образом”.
“Мы продолжаем работу по устранению проблем и готовим наши инструменты к выполнению наших ожиданий к выборам 2024 года”, – сказал Робин Кох, представитель Microsoft. Он добавил, что некоторые мероприятия включают предоставление пользователям Microsoft’s Copilot информации о выборах из авторитетных источников и направлении их на проверку веб-ссылок.
Как ранее сообщала группа ИС, прокурор Бельгии расследует вмешательство России в европейские выборы.
Об этом сообщает группа Информационное сопротивление.