Видят ли ИИ-ассистенты галлюцинации? Кто и как обучает генеративные модели

Чат-боты сегодня способны понимать контекст и стиль диалога, определять юмор и иронию, игнорировать опасные вопросы и оставаться в рамках этики. Но действительно ли нейросеть "понимает" запросы пользователя? Кто и как обучает генеративные ИИ, способные создавать изображения и тексты, и от каких галлюцинаций страдает искусственный интеллект.

О том, как по запросу "включить экспертность" ИИ, рассказал Кандидат технических наук, руководитель научной группы Fusion Brain Института искусственного интеллекта AIRI Андрей Кузнецов.

Эпизод подготовлен совместно с Институтом искусственного интеллекта AIRI (Telegram/ВК/YouTube).

О том, как нейросети по нужным свойствам предлагают новые молекулы, и какие ошибки они совершают, мы рассказывали в эпизоде "Молекула счастья: как научить нейросети предсказывать новые материалы".

Партнер эпизода – ПАО Сбербанк.

А также следите за новостями и новыми выпусками в нашей группе во ВКонтакте.

________
Эпизод подготовили: Артём Буфтяк

Звукорежиссер: Анастасия Паниоти, Олег Чижов

Спрашивайте нас, предлагайте нам, спорьте с нами: [email protected]

Реклама.
ПАО Сбербанк, ОГРН 1027700132195, адрес: 117312, Россия, г. Москва, ул.Вавилова, д. 19
ЕРИД 2VtzqviBxou