Технологія гарантуватиме, що користувач отримує результат саме від тієї моделі, до якої звертався
Anthropic оголосила про розробку відкритої системи FlashProve, яка надає криптографічне підтвердження походження відповідей штучного інтелекту.
Про це інформує РБК-Україна з посиланням на Anthropic.
Прихована загроза та невидима підміна моделей
В Anthropic наголошують: звичайний користувач не може перевірити, яка саме мовна модель згенерувала відповідь. Тому сервіси маршрутизації або самі розробники можуть непомітно підміняти дорогі моделі дешевшими, щоб скоротити витрати.
Оцінювання виключно за якістю тексту залишається ненадійним методом. Навіть сурогатні або скомпрометовані системи здатні видавати зовні правдоподібні результати, приховуючи реальний процес генерації від кінцевого споживача.
Читайте більше: Claude з правами адміна: як підрядник Пентагону поставив під загрозу військові дані
Як працює система FlashProve?
Нова розробка спирається на криптографічні докази виведення.
У системі передбачено дві основні фази для надійного контролю:
Офлайн-фаза публікує короткий цифровий відбиток ваг моделі без розкриття пропрієтарних параметрів.
Онлайн-фаза створює файл доказу для кожного конкретного запиту та згенерованих токенів.
Користувачі або незалежні аудитори можуть перевірити отриманий файл на звичайному комп'ютері за лічені секунди. Це повністю виключає можливість непомітної фальсифікації результатів.
Не пропустіть: Зламав Chrome, Windows і Android за секунди: Anthropic випробувала цифрового хакера
Технічні показники та швидкість перевірки
Під час тестування на моделі Llama 4 Maverick із 400 мільярдами параметрів система показала високу продуктивність. Один графічний процесор H100 генерує докази зі швидкістю близько 110 токенів за секунду.
Файл доказу обсягом 1024 токени займає 19 МБ, а його перевірка на звичайному центральному процесорі триває лише кілька секунд. Це дає змогу використовувати технологію без надмірних обчислювальних витрат.
Відкритий код та перспективи для ринку
Anthropic виклала технічну специфікацію та робочий код системи на GitHub під відкритою ліцензією. Розробники сподіваються на активну участь спільноти у вдосконаленні інструменту.
Вони переконані: запровадження таких рішень суттєво підвищує довіру до штучного інтелекту. Технологія також відкриває нові можливості для регулювання галузі, перевірки безпеки та контролю за дотриманням зобов'язань розробниками.
Ще більше цікавого:
- ШІ може почати вдосконалювати сам себе: чому Anthropic боїться втратити контроль
- Anthropic заборонила створювати клони ігор у Claude: яка причина