MIT командасы AI модельдеріне бұрын білмегендерін үйретеді.
Жасанды интеллектті (AI) қолдану қарқынды өсуде және денсаулық сақтау, телекоммуникация және энергетика сияқты күнделікті өміріміз бен маңызды салаларға барынша терең ене түсуде. Бірақ үлкен күшпен бірге үлкен жауапкершілік те келеді: AI жүйелері кейде қателеседі немесе маңызды салдары болуы мүмкін күмәнді жауаптар береді.
CSAIL зертханасының профессоры Даниэла Рустың бірлескен құрылтайшысы және жетекшісі MIT-тің Themis AI компаниясы жаңашыл шешім ұсынады. Олардың технологиясы AI модельдеріне «өздерінің не білмейтінін білуге» мүмкіндік береді. Бұл AI жүйелері өз болжамдарына қатысты күмәнді болған кезде көрсете алады деген сөз, бұл зиян келтірмес бұрын қателіктердің алдын алуға мүмкіндік береді.
Бұл неліктен маңызды?
Көптеген AI модельдері, тіпті жетілдірілгендері де, кейде «галлюцинациялар» көрсете алады – олар қате немесе негізсіз жауаптар береді. Медициналық диагностика немесе автономды жүргізу сияқты шешімдердің салмағы ауыр салаларда бұл апатты салдарларға әкелуі мүмкін. Themis AI компаниясы Capsa деп аталатын платформаны әзірледі, ол AI шығысының күмәнін егжей-тегжейлі және сенімді түрде өлшейтін және сандық бағалайтын uncertainty quantification (күмәнді бағалау) қолданады.
Бұл қалай жұмыс істейді?
Модельдерге белгісіздікті тану қабілетін беру арқылы олар шығарылатын нәтижелерге тәуекел немесе сенімділік белгісін қоса алады. Мысалы: автономиялық көлік белгісіз жағдай туралы хабарлап, адамның араласуын іске қоса алады. Бұл қауіпсіздікті ғана емес, сонымен қатар пайдаланушылардың AI жүйелеріне деген сенімін де арттырады.
- PyTorch-пен интеграция кезінде модельді орау арқылы жүзеге асырылады
capsa_torch.wrapper()мұнда шығыс болжам мен тәуекелден тұрады:
NetCare және оның клиенттері үшін бұл технология үлкен қадам болып табылады. Біз тек интеллектілі ғана емес, сонымен қатар қауіпсіз және галлюцинациялардың ықтималдығы аз, жақсы болжамды AI қосымшаларын жеткізе аламыз. Бұл ұйымдарға неғұрлым негізделген шешімдер қабылдауға және бизнес үшін маңызды қосымшаларға AI енгізу кезіндегі тәуекелдерді азайтуға көмектеседі.
Қорытынды
MIT команда AI болашағы тек ақылды болуға ғана емес, сонымен қатар қауіпсіз және әділ жұмыс істеуге де байланысты екенін көрсетеді. NetCare-те біз AI өзінің шектеулері туралы ашық болғанда ғана шынымен құнды болады деп санаймыз. Capsa сияқты озық белгісіздікті бағалау құралдары арқылы сіз бұл көзқарасты іс жүзінде қолдана аласыз.
