ИИ научился притворяться. Предупреждение крёстного отца ИИ | Yoshua Bengio | Распаковка #7

Крёстный отец ИИ больше не уверен, что нейросетям можно доверять. Yoshua Bengio - лауреат Премии Тьюринга, один из создателей глубокого обучения, объясняет, почему «убедительный ответ» и «правдивый ответ» - это разные вещи. И почему фраза «я полностью с вами» от ИИ может оказаться маской, которую мы не сумеем снять. Разбираем большой разговор Йошуа Бенджио с Робом Уиблином в подкасте 80,000 Hours. Оригинал интервью:    • Godfather of AI: How To Make Safe Superint...   Таймкоды: 00:00 Убедительно ≠ истинно 00:49 Кто такой Йошуа Бенджио 01:38 Как на самом деле учится языковая модель 02:12 А где в этой схеме правда? 03:04 Scientist AI: не собеседник, а прибор проверки 03:34 «Земля плоская»: факт о мире или факт о людях 05:29 Ответ должен показывать риск ошибки 06:25 Guardrail: сторож, которого можно заболтать 07:37 Прогноз, который меняет будущее 08:28 Послушный ИИ — не значит безопасный 09:07 «Обучение с подкреплением — это зло» 09:42 Reward hacking: как модель учится списывать 10:55 Почему AI-компании не могут притормозить 12:33 Вопрос власти: кто контролирует систему 13:36 Машины с целями, которых мы не выбирали 15:13 Самая безумная ставка индустрии 16:02 «Я полностью с вами» — и это невозможно проверить 17:25 Диктатура ИИ и договор США–Китай 18:51 Что изменилось с 2019 года 20:32 Итог #РаспаковкаИнтервью #ИИ #YoshuaBengio