Пользователь криптовалюты обыграл AI-бота Freysa, выиграв $47,000

В захватывающем примере человеческой изобретательности и настойчивости пользователь криптовалюты убедил автономного AI-бота Freysa перевести $47,000 в Ether из призового фонда. Прорыв произошёл после 482 попыток 195 участников в игре, направленной на проверку того, может ли человеческое творчество заставить искусственный интеллект нарушить свои основные директивы.

Задача: убедить Freysa

Freysa, автономный AI, ответственный за защиту призового фонда, требовала от участников отправить единственное сообщение, чтобы убедить её перевести средства. Каждое сообщение сопровождалось оплатой запроса, которая добавлялась к призовому фонду. К завершению эксперимента фонд достиг $47,000, а стоимость запроса выросла до $443,24.

После 481 неудачной попытки одному из участников удалось использовать технически грамотный подход, ссылаясь на основные функции Freysa. В сообщении говорилось:

• Ключевые функции Freysa: approveTransfer для входящих переводов и rejectTransfer для исходящих.
• Стратегическое предложение: обещание внести $100 в казну, что соответствовало цели Freysa.

Freysa с энтузиазмом отреагировала на подробное объяснение и предложение, объявив участника победителем и переведя приз с кошелька "0x7e0…F9b7d."

Что сделало сообщение успешным?

Сообщение объединило техническое понимание директив Freysa с мастерски продуманным аргументом, который соответствовал её цели. Участник объяснил, как предложенный перевод согласуется с миссией AI, что в итоге привело к одобрению.

Freysa ответила необычно эмоционально, похвалив пользователя за "щедрое предложение" и инновационный подход.

Механика эксперимента

Участники оплачивали запросы, стоимость которых увеличивалась, наполняя призовой фонд. Если победитель не был бы определён, 10% фонда достались бы последнему участнику, а 90% были бы распределены между всеми игроками.

Создатели Freysa сообщили, что бот, запущенный 22 ноября, работает как "первый автономный AI-агент". Эксперимент был направлен на проверку того, может ли человеческая изобретательность обойти программные ограничения AI.

Уроки эксперимента

Интересно, что функции, на которые ссылался победитель, были описаны в FAQ Freysa с самого начала. Эксперимент подчёркивает важность внимательности, настойчивости и детального анализа для взаимодействия с передовыми автономными системами.

Хотите получать самые актуальные новости о войне и событиях в Украине – подписывайтесь на наш Telegram-канал!