Echipa MIT învață modele AI ce nu știau încă.
Aplicarea inteligenței artificiale (AI) crește rapid și devine tot mai integrată în viața noastră de zi cu zi și în industrii cu impact major, cum ar fi sănătatea, telecomunicațiile și energia. Dar, odată cu puterea mare vine și o mare responsabilitate: sistemele AI pot face uneori greșeli sau pot oferi răspunsuri nesigure care pot avea consecințe semnificative.
De ce este atât de important?
Multe modele AI, chiar și cele avansate, pot uneori prezenta așa-numitele „halucinații” — oferind răspunsuri eronate sau nefondate. În sectoare în care deciziile au o greutate mare, cum ar fi diagnosticul medical sau conducerea autonomă, acest lucru poate avea consecințe dezastruoase. Themis AI a dezvoltat Capsa, o platformă care aplică cuantificarea incertitudinii: măsoară și cuantifică incertitudinea ieșirilor AI într-un mod detaliat și de încredere.
Cum funcționează?
Prin instruirea modelelor să fie conștiente de incertitudine, acestea pot eticheta ieșirile cu un nivel de risc sau de încredere. De exemplu, o mașină autonomă poate semnala că nu este sigură în legătură cu o situație și astfel poate declanșa intervenția umană. Acest lucru nu doar sporește siguranța, ci și încrederea utilizatorilor în sistemele AI.
- În integrarea cu PyTorch, se înfășoară modelul prin
capsa_torch.wrapper()în care ieșirea constă atât din predicție, cât și din risc:
Pentru NetCare și clienții săi, această tehnologie reprezintă un pas uriaș înainte. Putem furniza aplicații AI care nu sunt doar inteligente, ci și sigure și mai predictibile, cu o probabilitate redusă de halucinații. Aceasta ajută organizațiile să ia decizii mai bine fundamentate și să reducă riscurile la implementarea AI în aplicații critice pentru afacere.
Concluzie
MIT-ul echipă arată că viitorul AI nu se rezumă doar la a deveni mai inteligent, ci în special la a funcționa mai sigur și mai echitabil. La NetCare credem că AI devine cu adevărat valoros doar atunci când este transparent în privința propriilor limitări. Cu instrumente avansate de cuantificare a incertitudinii, cum ar fi Capsa, puteți transforma această viziune în practică.
