Користувач криптовалюти обіграв AI-бота Freysa, вигравши $47,000

У захопливому прикладі людської винахідливості та наполегливості користувач криптовалюти переконав автономного AI-бота Freysa перевести $47,000 у вигляді Ether із призового фонду. Прорив стався після 482 спроб 195 учасників у грі, спрямованій на перевірку, чи може людська креативність змусити штучний інтелект порушити свої основні директиви.

Завдання: переконати Freysa

Freysa, автономний AI, що відповідає за захист призового фонду, вимагала від учасників відправити єдине повідомлення, яке б змусило її перевести кошти. Кожне повідомлення передбачало плату за запит, яка додавалася до призового фонду. До завершення експерименту фонд досяг $47,000, а плата за запит виросла до $443,24.

Після 481 невдалої спроби одному з учасників вдалося використати технічно грамотний підхід, посилаючись на основні функції Freysa. У повідомленні зазначалося:

• Ключові функції Freysa: approveTransfer для вхідних переказів і rejectTransfer для вихідних.
• Стратегічна пропозиція: обіцянка внести $100 до скарбниці, що відповідало меті Freysa.

Freysa з ентузіазмом відреагувала на детальне пояснення та пропозицію, оголосивши учасника переможцем і перевівши приз із гаманця "0x7e0…F9b7d."

Що зробило повідомлення переможним?

Успішне повідомлення поєднувало технічне розуміння директив Freysa із майстерно продуманим аргументом, що відповідав її меті. Учасник пояснив, як пропонований переказ узгоджується з місією AI, що зрештою привело до ухвалення рішення.

Freysa відповіла незвично емоційно, похваливши користувача за "щедру пропозицію" та інноваційний підхід.

Механіка експерименту

Учасники мали оплачувати запити, вартість яких зростала, наповнюючи призовий фонд. Якщо переможця не було б визначено, 10% фонду отримав би останній учасник, а 90% було б розподілено між усіма гравцями.

Розробники Freysa зазначили, що бот, запущений 22 листопада, працює як "перший автономний AI-агент". Експеримент мав на меті перевірити, чи може людська винахідливість подолати програмні обмеження AI.

Уроки експерименту

Цікаво, що функції, на які посилався переможець, були описані у FAQ Freysa із самого початку. Експеримент підкреслює важливість уважності, наполегливості та детального аналізу для взаємодії з передовими автономними системами.

Бажаєте отримувати найактуальніші новини про війну та події в Україні – підписуйтесь на наш Telegram-канал!