Echipa MIT învață modelele de IA ceea ce nu știau încă.
Aplicarea inteligenței artificiale (AI) crește rapid și devine din ce în ce mai împletită cu viața noastră de zi cu zi și cu industrii cu mize mari, cum ar fi asistența medicală, telecomunicațiile și energia. Dar o mare putere vine și cu o mare responsabilitate: sistemele AI fac uneori greșeli sau oferă răspunsuri incerte care pot avea consecințe majore.
De ce este acest lucru atât de important?
Multe modele de inteligență artificială, chiar și cele avansate, pot prezenta uneori așa-numitele „halucinații” – ele oferă răspunsuri eronate sau nefondate. În sectoarele în care deciziile au o greutate mare, cum ar fi diagnosticul medical sau conducerea autonomă, acest lucru poate avea consecințe dezastruoase. Themis AI a dezvoltat Capsa, o platformă care aplică cuantificarea incertitudinii: măsoară și cuantifică incertitudinea rezultatelor AI într-un mod detaliat și fiabil.
Cum funcționează?
Prin educarea modelelor în spiritul conștientizării incertitudinii, acestea își pot marca rezultatele cu o etichetă de risc sau de fiabilitate. De exemplu: o mașină cu conducere autonomă poate indica faptul că nu este sigură cu privire la o situație și, prin urmare, poate declanșa o intervenție umană. Acest lucru crește nu doar siguranța, ci și încrederea utilizatorilor în sistemele AI.
- La integrarea cu PyTorch, împachetarea (wrapping) modelului se face prin
capsa_torch.wrapper()în care rezultatul constă atât din predicție, cât și din riscul asociat:
Pentru NetCare și clienții săi, această tehnologie înseamnă un pas înainte uriaș. Putem livra aplicații AI care nu sunt doar inteligente, ci și sigure și mai predictibile, cu un risc mai mic de halucinații. Aceasta ajută organizațiile să ia decizii mai bine fundamentate și să reducă riscurile atunci când implementează AI în aplicații critice pentru afaceri.
Concluzie
MIT-ul echipă arată că viitorul inteligenței artificiale nu înseamnă doar a deveni mai inteligent, ci mai ales a funcționa mai sigur și mai corect. La NetCare, considerăm că AI devine cu adevărat valoros doar atunci când este transparent în privința propriilor sale limitări. Cu instrumente avansate de cuantificare a incertitudinii precum Capsa, puteți pune această viziune în practică.
