Команда MIT обучает модели ИИ тому, чего они еще не знали.
Применение искусственного интеллекта (ИИ) стремительно растет, все больше проникая в нашу повседневную жизнь и критически важные отрасли, такие как здравоохранение, телекоммуникации и энергетика. Однако с большой силой приходит и большая ответственность: системы ИИ иногда совершают ошибки или дают неуверенные ответы, что может иметь серьезные последствия.
Почему это так важно?
Многие модели ИИ, даже самые продвинутые, иногда демонстрируют так называемые «галлюцинации» — они выдают неверные или необоснованные ответы. В секторах, где решения имеют большой вес, например, в медицинской диагностике или автономном вождении, это может привести к катастрофическим последствиям. Компания Themis AI разработала Capsa, платформу, которая применяет количественную оценку неопределенности: она измеряет и оценивает неопределенность результатов работы ИИ детальным и надежным способом.
Как это работает?
Обучая модели осознанию неопределенности, можно снабжать их результаты метками риска или надежности. Например, беспилотный автомобиль может сообщить, что он не уверен в ситуации, и поэтому запросить вмешательство человека. Это повышает не только безопасность, но и доверие пользователей к системам ИИ.
- При интеграции с PyTorch обертывание модели происходит через
capsa_torch.wrapper()где результат состоит как из прогноза, так и из оценки риска:
Для NetCare и наших клиентов эта технология означает огромный шаг вперед. Мы можем предоставлять решения на базе ИИ, которые не только интеллектуальны, но и безопасны, более предсказуемы и менее склонны к «галлюцинациям». Это помогает организациям принимать более обоснованные решения и снижать риски при внедрении ИИ в критически важные бизнес-приложения.
Заключение
Массачусетский технологический институт команда показывает, что будущее ИИ заключается не только в том, чтобы становиться умнее, но прежде всего в том, чтобы функционировать безопаснее и честнее. В NetCare мы верим, что ИИ становится по-настоящему ценным только тогда, когда он прозрачен в отношении своих собственных ограничений. С помощью передовых инструментов количественной оценки неопределенности, таких как Capsa, вы можете воплотить это видение в жизнь.
