Команда MIT вчить моделі ШІ тому, чого вони ще не знали.
Застосування штучного інтелекту (ШІ) стрімко зростає і все більше переплітається з нашим повсякденним життям та критично важливими галузями, такими як охорона здоров'я, телекомунікації та енергетика. Але з великою силою приходить і велика відповідальність: системи ШІ іноді припускаються помилок або дають невизначені відповіді, які можуть мати серйозні наслідки.
Чому це так важливо?
Багато моделей ШІ, навіть найдосконаліші, іноді можуть демонструвати так звані «галюцинації» — вони видають помилкові або необґрунтовані відповіді. У секторах, де рішення мають велику вагу, таких як медична діагностика чи автономне водіння, це може мати катастрофічні наслідки. Themis AI розробила Capsa — платформу, яка застосовує кількісне визначення невизначеності (uncertainty quantification): вона вимірює та кількісно оцінює невизначеність результатів роботи ШІ детальним і надійним способом.
Як це працює?
Шляхом прищеплення моделям усвідомлення невизначеності (uncertainty awareness), вони можуть супроводжувати результати міткою ризику або надійності. Наприклад, безпілотний автомобіль може повідомити, що він не впевнений у ситуації, і тому активувати втручання людини. Це підвищує не лише безпеку, а й довіру користувачів до систем ШІ.
- При інтеграції з PyTorch обгортання (wrapping) моделі відбувається через
capsa_torch.wrapper()де вихідні дані складаються як з прогнозу, так і з ризику:
Для NetCare та її клієнтів ця технологія означає величезний крок вперед. Ми можемо постачати рішення на базі ШІ, які є не лише інтелектуальними, але й безпечними та більш передбачуваними з меншою ймовірністю галюцинацій. Це допомагає організаціям приймати більш обґрунтовані рішення та знижувати ризики при впровадженні ШІ в критично важливі для бізнесу додатки.
Висновок
Команда MIT команда показує, що майбутнє штучного інтелекту полягає не лише в тому, щоб ставати розумнішим, а передусім у безпечнішому та чеснішому функціонуванні. У NetCare ми віримо, що ШІ стає по-справжньому цінним лише тоді, коли він є прозорим щодо власних обмежень. За допомогою вдосконалених інструментів кількісного визначення невизначеності, таких як Capsa, ви також можете втілити це бачення на практиці.
