Зупинка поліцією – це майже завжди стрес для водія, але тепер до звичних переживань додалася нова, досить неочікувана технологічна проблема. У грудні поліцейський департамент міста Хебер-Сіті, штат Юта, зіткнувся з абсурдною ситуацією: офіційний звіт, згенерований штучним інтелектом, стверджував, що офіцер під час виконання службових обов’язків буквально перетворився на земноводне. Винуватцем цього стала не помилка людини, а так звана «галюцинація» штучного інтелекту. Про це повідомляє Carscoops.
Департамент тестував новітнє програмне забезпечення, яке прослуховує записи з нагрудних камер патрульних і автоматично складає текстові рапорти. На жаль, система виявилася надто старанною: вона вхопила аудіоряд з мультфільму «Принцеса і жаба», який грав десь на фоні, і впевнено внесла події казки до офіційного протоколу.
«Програмне забезпечення нагрудної камери та ШІ для написання звітів підхопили фільм, що йшов у фоновому режимі… Саме тоді ми зрозуміли важливість ретельної перевірки та виправлення звітів, створених штучним інтелектом», — прокоментував ситуацію сержант Кіл.
Чому це небезпечно для водіїв
Хоча історія про офіцера-жабу звучить як анекдот, вона викликає серйозне занепокоєння у правозахисників та експертів. Ці інструменти ШІ розроблені для економії часу поліцейських, перетворюючи аудіо на текст, що в теорії має зменшити паперову тяганину і збільшити час патрулювання.
Однак на практиці це означає, що алгоритм інтерпретує розмови, інтонації та фонові шуми під час перевірок на дорогах. Помилка у такому документі — це не просто одрук. Поліцейський рапорт є офіційним документом, який може мати довгострокові наслідки:
- Вплив на судові розгляди;
- Проблеми зі страховими виплатами;
- Ризик призупинення дії водійського посвідчення;
- Негативний вплив на перевірку біографії при працевлаштуванні.
Як захиститися від помилок ШІ
У випадку Хебер-Сіті помилка була очевидною, і з неї просто посміялися. Але що станеться, якщо ШІ неправильно зрозуміє, хто саме сказав ту чи іншу фразу, неправильно інтерпретує тон водія або помилково підсумує причину конфлікту? Такі помилки набагато важче помітити, особливо якщо офіцер вирішить, що текст «достатньо близький» до істини і не стане його виправляти.
Експерти радять водіям не покладатися лише на поліцейські записи. Найкращий захист сьогодні — це використання власних відеореєстраторів, які фіксують не лише зображення, а й звук. Наявність власного запису допоможе спростувати будь-які «фантазії» алгоритмів, якщо справа дійде до суду.
