Багатомодельний консенсус + децентралізована верифікація: як Mira Network будує шар довіри AI для протидії ілюзіям та упередженням?

Бачив, що публічна тестова мережа Mira була запущена вчора. Вона намагається побудувати рівень довіри до ШІ. То чому ШІ потрібно довіряти? Як Mira вирішує цю проблему?

Люди, обговорюючи ШІ, більше уваги приділяють потужним можливостям ШІ. Проте цікаво, що ШІ має “галюцинації” або упередження. Люди не дуже звертають на це увагу. Що таке “галюцинація” ШІ? Простими словами, це те, що ШІ іноді може “вигадувати” і серйозно говорити нісенітниці. Наприклад, ви питаєте ШІ, чому місяць рожевий? Воно може серйозно надати вам багато, на перший погляд, розумних пояснень.

Існування «ілюзій» або упереджень у ШІ має певний зв’язок з деякими поточними технологічними шляхами ШІ, наприклад, генеративний ШІ передбачатиме «найімовірнішу» вихід контенту для досягнення когерентності та обґрунтованості, але іноді він не може перевірити автентичність; Крім того, самі навчальні дані містять помилки, упередження і навіть вигаданий контент, який також може вплинути на вихід ШІ. Тобто шаблони людської мови, які вивчає сам ШІ, а не самі факти

Отже, поточний механізм генерації ймовірності + дані, що керують моделлю, майже неминуче призводять до можливості ілюзій ШІ.

Такі упереджені або ілюзорні виходи, якщо це лише загальні знання або розважальний контент, поки що не призведуть до прямих наслідків, але якщо це станеться в таких сферах, як медицина, право, авіація, фінанси тощо, це може мати серйозні наслідки. Тому питання про те, як вирішити ілюзії та упередження ШІ, є одним з ключових питань еволюції ШІ. Деякі використовують технології покращення генерації на основі пошуку (поєднання з реальними базами даних, пріоритетна видача перевірених фактів), інші залучають людський зворотний зв’язок, виправляючи помилки моделі через ручну розмітку та нагляд людини.

Проект Mira також намагається вирішити проблеми упередженості та ілюзій в ШІ, тобто Mira намагається створити рівень довіри до ШІ, зменшити упередженість та ілюзії ШІ, підвищити надійність ШІ. Отже, з точки зору загальної структури, яким чином Mira зменшує упередженість та ілюзії ШІ і зрештою досягає довіреного ШІ?

Основою реалізації Mira є верифікація виходу AI через консенсус декількох AI моделей. Тобто, Mira сама є мережею верифікації, яка перевіряє надійність виходу AI, спираючись на консенсус декількох AI моделей. Крім того, важливо зазначити, що верифікація здійснюється через децентралізований консенсус.

Ключем мережі Mira є децентралізована верифікація консенсусу. Децентралізована верифікація консенсусу є сильною стороною криптографічної сфери, а також використовує співпрацю багатьох моделей, зменшуючи упередження та ілюзії за допомогою колективної моделі верифікації.

У частині верифікаційної архітектури необхідно мати незалежну верифікацію заяв, протокол Mira підтримує перетворення складного контенту в незалежні верифікаційні заяви. Ці заяви потребують участі операторів вузлів для верифікації, щоб забезпечити добросовісність операторів вузлів, тут буде використано криптоекономічні стимули/покарання, щоб реалізувати це, різні AI моделі + децентралізовані оператори вузлів беруть участь, щоб забезпечити надійність результатів верифікації.

Архітектура мережі Mira включає в себе перетворення контенту, розподілену верифікацію та механізм консенсусу, щоб забезпечити надійність верифікації. У цій архітектурі перетворення контенту є важливим елементом. Мережа Mira спочатку розбиває кандидатний контент (зазвичай подається клієнтом) на різні перевіряємi заяви (щоб забезпечити, що модель може зрозуміти в одному й тому ж контексті), ці заяви розподіляються системою між вузлами для верифікації, щоб визначити дійсність заяви, і підсумовують результати для досягнення консенсусу. Ці результати та консенсус повертаються клієнту. Крім того, для захисту конфіденційності клієнта кандидатний контент розбивається на заяви-пари, які випадковим чином надсилаються різним вузлам, щоб запобігти витоку інформації під час процесу верифікації.

Оператори вузлів відповідають за запуск моделей верифікаторів, обробку заявок та подання результатів верифікації. Чому оператори вузлів бажають брати участь у верифікації заявок? Тому що це може приносити прибуток. Звідки взятися прибутку? Від вартості, яку вони створюють для клієнтів. Мета мережі Mira полягає у зменшенні рівня помилок штучного інтелекту (галюцинацій та упереджень); як тільки ця мета буде досягнута, це може створити вартість, наприклад, зменшивши рівень помилок у сферах охорони здоров’я, юриспруденції, авіації, фінансів тощо, що призведе до величезної цінності. Тому клієнти будуть готові платити. Звичайно, що стосується стійкості та масштабу оплати, це залежить від того, чи зможе мережа Mira продовжувати приносити цінність клієнтам (знижуючи рівень помилок AI). Крім того, щоб запобігти спекулятивній поведінці операторів вузлів, які випадковим чином відповідають, вузли, що постійно відхиляються від консенсусу, будуть позбавлені стейкінг-токенів. Загалом, це забезпечується економічними механізмами гри, щоб гарантувати, що оператори вузлів чесно беруть участь у верифікації.

В цілому, Mira пропонує новий підхід до забезпечення надійності ШІ, будуючи децентралізовану мережу валідації консенсусу на основі кількох моделей ШІ, що забезпечує вищу надійність для ШІ-сервісів клієнтів, зменшуючи упередженість і галюцинації ШІ, щоб задовольнити вимоги клієнтів до більшої точності та точності. І, надаючи цінність клієнтам, приносить прибуток учасникам мережі Mira. Якщо коротко, то Mira намагається створити рівень довіри для ШІ. Це сприяє поглибленню застосування ШІ.

Наразі AI агентська структура, з якою співпрацює Mira, включає ai16z, ARC та інші. Публічна тестова мережа Mira була запущена вчора, користувачі можуть брати участь у публічній тестовій мережі Mira, використовуючи Klok, який є на основі LLM чат-додатка Mira. Використовуючи Klok, можна випробувати перевірений вихід AI (можна порівняти з неперевіреним виходом AI), а також заробити бали Mira. Щодо майбутнього використання балів, поки що не було розкрито.