Команда MIT обучает модели ИИ тому, чего они еще не знали.
Применение искусственного интеллекта (ИИ) стремительно растет и все сильнее переплетается с нашей повседневной жизнью и критически важными отраслями, такими как здравоохранение, телекоммуникации и энергетика. Но с большой силой приходит и большая ответственность: системы ИИ порой совершают ошибки или выдают неуверенные ответы, которые могут иметь серьезные последствия.
Почему это так важно?
Многие модели ИИ, даже самые продвинутые, иногда демонстрируют так называемые «галлюцинации» — они выдают ошибочные или необоснованные ответы. В секторах, где решения имеют большой вес, таких как медицинская диагностика или автономное вождение, это может привести к катастрофическим последствиям. Компания Themis AI разработала Capsa — платформу, которая применяет квантование неопределенности: она измеряет и оценивает неопределенность результатов работы ИИ детальным и надежным способом.
Как это работает?
Обучая модели осознанию неопределенности, мы можем снабжать их выходные данные метками риска или надежности. Например: беспилотный автомобиль может указать, что он не уверен в ситуации, и поэтому запросить вмешательство человека. Это повышает не только безопасность, но и доверие пользователей к системам ИИ.
- При интеграции с PyTorch обертывание (wrapping) модели осуществляется через
capsa_torch.wrapper()при этом выходные данные состоят как из прогноза, так и из оценки риска:
Для NetCare и ее клиентов эта технология означает огромный шаг вперед. Мы можем поставлять решения на базе ИИ, которые не только интеллектуальны, но также безопасны и лучше прогнозируемы, с меньшей вероятностью возникновения галлюцинаций. Это помогает организациям принимать более обоснованные решения и снижать риски при внедрении ИИ в критически важные бизнес-приложения.
Заключение
Команда MIT команда показывает, что будущее ИИ заключается не только в интеллектуальном росте, но прежде всего в более безопасном и честном функционировании. В NetCare мы верим, что ИИ становится по-настоящему ценным только тогда, когда он прозрачен в отношении собственных ограничений. С помощью передовых инструментов квантования неопределенности, таких как Capsa, вы можете воплотить это видение в жизнь.
