Прихована упередженість у фінансовому ШІ – може вирішити це блокчейн?

Штучний інтелект став потужною силою в екосистемі фінансів, пропонуючи більш швидкі, керовані даними розуміння, які обіцяють покращити інвестиції, кредитування та управління ризиками. Від радників AI, які персоналізують фінансові стратегії як для компаній, так і для людей до високодосконалених торгових систем, які приймають рішення, керовані даними, у мікросекундах, у секторі фінансового AI є багато місця для зростання.

Але є одна головна проблема: упередженість.

Незважаючи на те, що пропонують швидкість, точність і те, що здається об’єктивністю, фінансові системи AI мають той самий ухил, який галузь намагається усунути десятиліттями. Наприклад, за даними університету Lehigh, турбо-мовні моделі GPT-4 Turbo-4 OpenAI-димовуючи радник з іпотечного кредитування або систему прийняття рішень-відмовився від певної демографії заявників, щоб мати 120 кредитних балів вище, ніж заявники білих, щоб отримати однакове схвалення, незважаючи на те, що має однаковий дохід, історію кредитів та рівень боргу.

Цей зміщення не впливає на традиційні фінансові ринки, а й децентралізовані фінансові та криптовалюти. Візьмемо, наприклад, платформи прогнозування ринку AI. Оскільки їхні дані базуються на історії цін, настроїв новин чи соціальних тенденціях, ці платформи іноді можуть надмірно реагувати на ринок аномалій – Крипто сповнений подій Чорного лебедя, таких як колапс Terra, аварія FTX або великі штрафи з регуляторів.

Отже, ці інструменти прогнозування можуть стати надмірно агресивними або навіть із зайвою вагою соціальних тенденцій та балаканинами, що призводить до поганих сигналів та прогнозів.

Blockchain, xai на порятунок

Обмеження та непрозорий характер багатьох систем AI заважають їм стати повністю прозорими та підзвітними. Деякі навіть називають їх чорними полями, оскільки моделі AI зазвичай не мають прозорості.

Зокрема, рішення, прийняті інструментами AI в криптовалюті, зазвичай не пояснюються – це ускладнює користувачам зрозуміти, як приймаються рішення. Відсутність стандартизованих протоколів аудиту для систем ШІ також призведе до непослідовних оцінок та потенційного нагляду за критичними проблемами.

Інтеграція технології blockchain за допомогою пояснюваних AI або XAI коротко може вирішити цю проблему, забезпечуючи незмінність та прозорість, які поставляються з децентралізованими книгами – дотично вдосконалюючи методи аудиту, оскільки аудитори матимуть повний доступ до даних платформи та основних алгоритмів.

Моделі XAI вже привертають увагу, оскільки вони гарантують, що процес прийняття рішень є справедливим та етичним на додаток до ефективності. Технологія blockchain може доповнити справедливість XAI, створивши незмінні записи процесів прийняття рішень AI, гарантуючи, що кожна дія простежується та перевіряється. Це сприятиме довірі та підзвітності.

Blockchains діють бездоганно. Це не означає, що технології не можна довіряти, але це говорить про те, що треті сторони чи центральні органи не знадобляться для підтвердження будь -яких рішень. Децентралізація усуває необхідність централізованої суб’єкта для нагляду за процесами, завдяки розумним контрактам, які автономно функціонують.

Коли модель змінює або виводить рішення, відсутність журналів та контролю версій може спричинити проблеми довіри з більшістю платформ AI. Technology Technology Technology позначає записи та дані про незмінну книгу.

FICO, компанія з кредитної оцінки, використовувала blockchain для реєстрації модельних рішень AI, тому регулятори могли простежити, як приймаються такі рішення, як прийняті рішення. У минулому році компанія отримала нагороду «Технологія майбутнього – Блокаїн та Токенізація» на нагородах Banking Tech Awards в Лондоні.

Від теорії до практики

Блокчейн та децентралізовані протоколи фінансів мають можливість випікати справедливість, прозорість та підзвітність в моделі ШІ – з чим традиційні фінансові компанії боролися.

Поєднання XAI з перевіркою на ланцюзі може трансформувати те, як приймаються рішення та довіряють екосистемі Web3. Наприклад, використання XAI для пояснення голосування децентралізованих автономних організацій може допомогти користувачам краще зрозуміти наслідки їх вибору. Більш досконалою утилітою було б використання XAI для оцінки ризику в протоколах DEFI -кредитування.

Змішування XAI з технологією blockchain також може бути потужним інструментом виявлення нагляду та маніпуляції. AI добре аналізує схеми нападів сендвічів, експлуатації МеВ або торгівлі. Це може допомогти у пошуку ринкових аномалій.

Деякі проекти Web3 вже намагаються підвищити прозорість AI. Наприклад, SingularityNet зосереджується на тому, щоб зробити процеси AI. Інша платформа під назвою Ocean Protocol відстежує походження даних, забезпечуючи надійність та відстеження.

Висновок

У цей момент це лише початок інтеграції blockchain та AI. Зараз дослідники досліджують гібридні моделі, які поєднують цілісність blockchain, чіткість XAI та інструменти виявлення зміщення в системах, які можуть контролювати та потенційно виправити себе.

Але лише технологія цього не виправить. Він також потребуватиме уваги регуляторів, ретельності користувачів та смирення з боку розробників, які будують ці системи. Якщо фінансова криза 2008 року навчила нас чомусь, то сліпа довіра до складних та централізованих інструментів небезпечна.

Найбільше, SMART не завжди означає справедливо. Як епоха основних поверхонь AI, користувачі також повинні шукати прозорість на додаток до ефективності.