MIT тобы AI модельдеріне әлі білмейтін нәрселерін үйретуде.
Жасанды интеллекттің (ЖІ) қолданылуы қарқынды дамып келеді және біздің күнделікті өмірімізбен, сондай-ақ денсаулық сақтау, телекоммуникация және энергетика сияқты маңызы жоғары салалармен тығыз байланысып жатыр. Бірақ үлкен мүмкіндіктермен қатар үлкен жауапкершілік те келеді: ЖІ жүйелері кейде қателіктер жібереді немесе үлкен салдарға әкелуі мүмкін сенімсіз жауаптар береді.
Бұл неге соншалықты маңызды?
Көптеген ЖІ модельдері, тіпті ең жетілдірілгендері де, кейде «галлюцинациялар» деп аталатын жағдайларды көрсетуі мүмкін – олар қате немесе негізсіз жауаптар береді. Медициналық диагноз немесе автономды көлік жүргізу сияқты шешімдердің салмағы ауыр салаларда бұл апатты салдарға әкелуі мүмкін. Themis AI uncertainty quantification (белсіздікті бағалау) әдісін қолданатын Capsa платформасын әзірледі: ол ЖІ нәтижесінің белсіздігін егжей-тегжейлі және сенімді түрде өлшейді әрі бағалайды.
Бұл қалай жұмыс істейді?
Модельдерге белсіздікті түсіну қабілетін үйрету арқылы олардың нәтижелерін тәуекел немесе сенімділік белгісімен қамтамасыз етуге болады. Мысалы: автопилоттағы көлік қандай да бір жағдайға сенімді емес екенін көрсетіп, сол арқылы адамның араласуын іске қоса алады. Бұл қауіпсіздікті ғана емес, сонымен қатар пайдаланушылардың ЖІ жүйелеріне деген сенөмін арттырады.
- PyTorch-пен біріктірген кезде модельді орау (wrapping) мына арқылы жүзеге асады
capsa_torch.wrapper()мұнда шығыс деректер болжамды да, тәуекелді де қамтиды:
NetCare және оның клиенттері үшін бұл технология үлкен қадам болып табылады. Біз тек ақылды ғана емес, сонымен қатар қауіпсіз, болжамдылығы жоғары және галлюцинация ықтималдығы аз AI қосымшаларын жеткізе аламыз. Бұл ұйымдарға бизнес-критикалық қолданбаларда AI енгізу кезінде негізделген шешімдер қабылдауға және тәуекелдерді азайтуға көмектеседі.
Қорытынды
MIT тобы AI болашағы тек ақылды болумен ғана шектелмей, ең алдымен қауіпсіз және әділ жұмыс істеуге негізделгенін көрсетеді. NetCare компаниясында біз AI өз шектеулері туралы ашық болған кезде ғана шынайы құнды бола бастайтынына сенеміз. Capsa сияқты озық uncertainty quantification құралдарының көмегімен сіз бұл көзқарасты тәжірибеде де жүзеге асыра аласыз.
