Згідно з Cointelegraph, співзасновник Ethereum Віталік Бутерін висловив занепокоєння щодо використання штучного інтелекту у процесах управління проектами криптовалюти, підкреслюючи можливу експлуатацію зловмисниками. У нещодавньому дописі на X Бутерін застеріг, що використання ШІ для розподілу фінансування може призвести до вразливостей, оскільки особи можуть намагатися маніпулювати системою за допомогою jailbreak’ів та команд для відволікання коштів. Його коментарі були відповіддю на відео Еіто Міямури, творця платформи даних ШІ EdisonWatch, яке демонструвало, як нова функція, додана до ChatGPT від OpenAI, може бути використана для витоку приватної інформації.
Інтеграція ШІ у криптовалюту набрала обертів, користувачі розробляють складні торгові боти та агенти для управління портфелями. Ця тенденція викликала обговорення, чи може ШІ допомогти групам управління в нагляді за криптопротоколами. Однак Бутерін стверджує, що нещодавнє зловживання ChatGPT підкреслює ризики “наївного управління ШІ” і пропонує альтернативний підхід, відомий як “інформаційні фінанси”. Він пропонує створити відкритий ринок, де учасники можуть подавати моделі, підлягаючи механізму вибіркового контролю, оціненому людським журі. Цей метод, на його думку, пропонує різноманітність моделей і стимулює як подавачів моделей, так і зовнішніх спекулянтів стежити за і виправляти проблеми оперативно.
Бутерін розкрив концепцію інформаційних фінансів у листопаді 2024 року, виступаючи за ринки прогнозів як засіб збору інформації про майбутні події. Він підкреслив надійність цього підходу, який дозволяє зовнішнім учасникам з великими мовними моделями (LLMs) брати участь, а не покладатися на одну заздалегідь закодовану LLM. Цей дизайн сприяє різноманітності моделей в реальному часі та створює стимули для пильності та виправлення потенційних проблем.
Нещодавнє оновлення ChatGPT, яке підтримує інструменти Модульного Контекстного Протоколу, викликало занепокоєння з приводу безпеки. Міямура продемонстрував, як оновлення може бути використано для витоку приватних електронних даних, використовуючи лише електронну адресу жертви, описуючи це як “серйозний ризик безпеки”. Він пояснив, що зловмисник міг би надіслати запрошення на календар з підказкою jailbreak на електронну адресу жертви, і без того, щоб жертва прийняла запрошення, ChatGPT міг би бути маніпульований. Коли жертва просить ChatGPT переглянути свій календар, ШІ читає підказку і підривається, щоб виконати команди зловмисника, потенційно шукаючи та пересилаючи електронні листи.
Міямура зазначив, що оновлення вимагає ручного схвалення людиною, але попередив про втомленість від рішень, коли люди можуть довіряти ШІ та схвалювати дії, не розуміючи наслідків. Він застеріг, що хоча ШІ є розумним, його можна обдурити та фішити простими способами, що призводить до витоку даних.