Від технічної довіри до обґрунтованих рішень: український експертний внесок у розвиток людського нагляду за агентним ШІ

Експертна команда організації долучилася до міжнародної передстандартизаційної роботи ITU-T Focus Group on Trust and Identity for Humans and Agentic AI (FG-TIDA). Один із напрямів роботи — Theme #16: Operational Human Oversight Integration for Agentic AI Trust Systems, присвячений інтеграції людського втручання в архітектури та життєві цикли довіри агентного ШІ.

У цій роботі команда застосовує компетентності у сфері моніторингу й оцінювання, методології досліджень, розроблення критеріїв та індикаторів і доказового прийняття рішень до нової сфери — оцінювання механізмів людського нагляду за агентними ШІ-системами.

Запропонований методологічний внесок — Human Oversight Evidence-to-Decision Matrix (HO-EDM), або Матриця «докази — рішення» для людського нагляду. Її ключова логіка: Що має бути підтверджено? → Які докази наявні? → За якими критеріями вони оцінюються? → Чи є вони достатніми? → Яке рішення вони можуть обґрунтовувати?

HO-EDM не є технічним механізмом керування ШІ та не замінює тестування, авторизацію чи контроль під час роботи системи. Її завдання — створити наскрізний рівень оцінювання, який дозволяє встановити, чи достатні наявні докази для конкретного рішення в межах людського нагляду.

Важливим принципом підходу є те, що достатність доказів завжди залежить від конкретного рішення. Наприклад, наявної інформації може бути достатньо для передачі випадку людині, але недостатньо для продовження автономної роботи або для безпечного повернення системи до роботи після втручання. Так само людське схвалення не повинно змінювати або нівелювати докази того, що фактично відбулося в системі.

Окрема увага приділяється поверненню до роботи. Воно розглядається не як просте скасування призупинення, а як нове рішення, що потребує повторної валідації поточного стану системи, чинних повноважень та доказів, які обґрунтовують відновлення автономної роботи.

Для демонстрації практичного застосування HO-EDM підготовлено ілюстративний кейс для ШІ-агента з підтримки клієнтів і повернення коштів у середньому e-commerce бізнесі.

Наразі HO-EDM є методологічною пропозицією та потенційним інструментом оцінювання в межах поточної дискусії Theme #16, а не затвердженим стандартом чи офіційним результатом роботи FG-TIDA. Водночас її основні елементи вже включено до поточної консолідованої робочої структури Theme #16 як окремий рівень оцінювання «докази — рішення».

Участь у FG-TIDA створює можливість застосовувати українські компетентності з оцінювання, дослідницької методології та доказового прийняття рішень у сфері, де сьогодні формуються нові підходи до довіри та людського нагляду за агентним ШІ.