Екип на MIT учи AI моделите на това, което все още не са знаели.
Приложението на изкуствения интелект (AI) се разраства бързо и все повече се преплита с нашето ежедневие и индустрии с висок залог като здравеопазването, телекомуникациите и енергетиката. Но с голямата сила идва и голяма отговорност: AI системите понякога допущат грешки или дават несигурни отговори, които могат да имат сериозни последици.
Защо това е толкова важно?
Много AI модели, дори и усъвършенстваните, понякога могат да проявят т.нар. „халюцинации“ – те дават грешни или необосновани отговори. В сектори, където решенията са с голяма тежест, като медицинската диагностика или автономното шофиране, това може да има катастрофални последици. Themis AI разработи Capsa – платформа, която прилага квантуване на несигурността (uncertainty quantification): тя измерва и квантува несигурността на AI изхода по детайлен и надежден начин.
Как работи?
Като се вгради осведоменост за несигурността в моделите, те могат да бъдат снабдени с етикет за риск или надеждност за своите резултати. Например: една самоуправляваща се кола може да сигнализира, че не е сигурна в дадена ситуация и затова да задейства намеса от страна на човек. Това повишава не само безопасността, но и доверието на потребителите в AI системите.
- При интеграция с PyTorch обвиването (wrapping) на модела става чрез
capsa_torch.wrapper()като изходът се състои както от прогнозата, така и от риска:
За NetCare и нейните клиенти тази технология означава огромна крачка напред. Ние можем да доставяме AI приложения, които са не само интелигентни, но и безопасни, по-предсказуеми и с по-малък шанс за халюцинации. Това помага на организациите да вземат по-добре обосновани решения и да намалят рисковете при въвеждането на AI в критични за бизнеса приложения.
Заключение
MIT екип показва, че бъдещето на AI не се върти само около това да стане по-умен, но преди всичко около по-безопасното и честно функциониране. В NetCare вярваме, че AI става наистина ценен само когато е прозрачен относно собствените си ограничения. С модерни инструменти за квантуване на несигурността като Capsa можете да реализирате тази визия на практика.
