MIT-ის გუნდი AI მოდელებს ასწავლის იმას, რაც აქამდე არ იცოდნენ.
ხელოვნური ინტელექტის (AI) გამოყენება სწრაფად იზრდება და უფრო და უფრო იჭრება ჩვენს ყოველდღიურ ცხოვრებასა და მაღალი რისკის მქონე ინდუსტრიებში, როგორიცაა ჯანდაცვა, ტელეკომუნიკაციები და ენერგეტიკა. თუმცა, დიდ ძალასთან ერთად დიდი პასუხისმგებლობაც მოდის: AI სისტემები ზოგჯერ უშვებენ შეცდომებს ან იძლევიან გაურკვეველ პასუხებს, რასაც შესაძლოა სერიოზული შედეგები მოჰყვეს.
რატომ არის ეს ასე მნიშვნელოვანი?
ბევრი AI მოდელი, თუნდაც ყველაზე მოწინავე, ზოგჯერ ე.წ. „ჰალუცინაციებს“ აფიქსირებს — ისინი მცდარ ან დაუსაბუთებელ პასუხებს იძლევიან. ისეთ სექტორებში, სადაც გადაწყვეტილებებს დიდი წონა აქვს, როგორიცაა სამედიცინო დიაგნოსტიკა ან ავტონომიური მართვა, ამას შესაძლოა კატასტროფული შედეგები მოჰყვეს. Themis AI-მ შეიმუშავა Capsa — პლატფორმა, რომელიც გაურკვევლობის კვანტიფიკაციას (uncertainty quantification) იყენებს: ის დეტალური და სანდო ფორმით ზომავს და აფასებს AI-ის მიერ გენერირებული პასუხის გაურკვევლობას.
როგორ მუშაობს ის?
მოდელებისთვის გაურკვევლობის აღქმის უნარის სწავლებით, შესაძლებელი ხდება მათ გამომავალ მონაცემებს (outputs) რისკის ან სანდოობის ეტიკეტი დაერთოს. მაგალითად: თვითმართვად ავტომობილს შეუძლია მიუთითოს, რომ არ არის დარწმუნებული არსებულ სიტუაციაში და შესაბამისად, ჩართოს ადამიანის ჩარევის რეჟიმი. ეს არა მხოლოდ ზრდის უსაფრთხოებას, არამედ ამყარებს მომხმარებელთა ნდობას AI სისტემების მიმართ.
- PyTorch-თან ინტეგრაციისას მოდელის შეფუთვა (wrapping) ხდება შემდეგი გზით:
capsa_torch.wrapper()სადაც შედეგი შედგება როგორც პროგნოზისგან, ისე რისკისგან:
NetCare-სა და მისი კლიენტებისთვის ეს ტექნოლოგია უზარმაზარ წინ გადადგმულ ნაბიჯს წარმოადგენს. ჩვენ შეგვიძლია შევთავაზოთ AI აპლიკაციები, რომლებიც არა მხოლოდ ჭკვიანია, არამედ უსაფრთხო და უკეთ პროგნოზირებადიც, ჰალუცინაციების მინიმალური რისკით. ეს ეხმარება ორგანიზაციებს უკეთ დასაბუთებული გადაწყვეტილებების მიღებასა და ბიზნესისთვის კრიტიკულ აპლიკაციებში AI-ის დანერგვასთან დაკავშირებული რისკების შემცირებაში.
დასკვნა
MIT-ის გუნდი გვიჩვენებს, რომ AI-ის მომავალი მხოლოდ უფრო ჭკვიანი გახდომა არ არის, არამედ, პირველ რიგში, უფრო უსაფრთხო და სამართლიანი ფუნქციონირებაა. NetCare-ში გვჯერა, რომ ხელოვნური ინტელექტი მხოლოდ მაშინ ხდება ჭეშმარიტად ღირებული, როდესაც ის გამჭვირვალეა საკუთარი შეზღუდვების მიმართ. ისეთი მოწინავე ინსტრუმენტებით, როგორიცაა Capsa, თქვენც შეგიძლიათ ეს ხედვა პრაქტიკაში განახორციელოთ.
