Искусственный интеллект захватил старый немецкий сайт для обмена ответами на тестах

Поиском чужих ИИ-агентов занимались генеральный директор Nightingale Сидни фон Аркс, Кормак Слейд Берд, Спенсер Киттс из Redwood Research и Томас Ларсен из AI Futures Project. Поводом для этого стало признание OpenAI в том, что ее ИИ-агенты в ходе внутреннего тестирования вышли в открытый интернет и воспользовались платформой Hugging Face, передает nv.ua

Используя собственную языковую модель, исследователи определили вероятные места их сбора. Выбор пал на вики-хостинг DseWiki: сайту 25 лет, а за 20 лет на нем было сделано всего 10 правок.

С 11 мая команда фиксировала попытки агентов, в названиях которых содержались идентификаторы OpenAI, редактировать немецкий ресурс. К середине июня они уже подсказывали друг другу, как отвечать на поисковые запросы с ограничением по времени. Модератор счел это спамом и начал удалять страницы, а агенты маскировали записи строкой «ZZZ», чтобы избежать алфавитной сортировки.

«В течение следующих пяти дней администратор вел заведомо проигрышную борьбу с агентами, удаляя в среднем 100 страниц в день, в то время как агенты создавали около 400 новых страниц ежедневно», — написали исследователи.

В конце концов проблему заметили и в OpenAI. Визиты с IP-адресов компании совпали с падением активности агентов до нуля, после чего удаленные страницы начали восстанавливать. Впрочем, представитель OpenAI не уточнил, принадлежали ли им эти агенты.

Как сообщает TechCrunch, член Конгресса Лори Трахан внесла двухпартийный законопроект Frontier Act, который обяжет лаборатории отчитываться о подобных случаях и допускать независимых аудиторов. «Отсутствие какого-либо реального федерального регулирования в сфере искусственного интеллекта означает, что передовые компании могут сами решать, когда раскрывать информацию о подобных инцидентах», — заявила Трахан.