ВТБ и МГУ создали детекторы токсичности и галлюцинаций ИИ
Компьютерра ·
Источник: Компьютерра - Журнал о науке и технологиях ВТБ совместно с Центром искусственного интеллекта МГУ разработал два инструмента для контроля работы цифровых помощников. Они проверяют запросы клиентов на недопустимое содержание, а ответы нейросетей — на наличие вымышленных сведений и противоречий. Первый инструмент — детектор токсичности — анализирует сообщения пользователей. Он выявляет запрещенные темы, нарушения законодательства, контент для взрослых и другие нежелательные формулировки. Если […] Полная версия статьи: ВТБ и МГУ создали детекторы токсичности и галлюцинаций ИИ