Никто не понимает, как мыслит ИИ. Вот самое простое объяснение

Современные языковые модели умеют писать код, решать задачи и вести осмысленные диалоги. Но есть одна проблема: мы до конца не понимаем, как именно они принимают решения. В этом видео разбираем устройство больших языковых моделей. Почему инженеры не программируют ИИ, а буквально выращивают его? Что происходит внутри больших языковых моделей? Почему даже их создатели не понимают процесс мышления нейросетей? Какие риски несёт появление сверхинтеллекта? Это вторая часть моего пересказала книги Элиэзера Юдковского «Если кто-то построит ЭТО, мы все умрем». Полное видео — в профиле. Таймкоды: 00:00:00 Гонка за сверхинтеллектом 00:01:16 ИИ не программируют — его выращивают 00:08:33 Почему никто не понимает, как работает интеллект внутри модели 00:10:06 Почему ИИ учится понимать реальность, а не только текст 00:13:01 Как ИИ начал угрожать пользователям 00:14:22 Почему ИИ — это чужой разум 00:15:12 Странности мышления нейросетей 00:18:08 Почему дружелюбный ИИ не обязательно безопасен 00:19:07 Самая важная проблема сверхинтеллекта Мой телеграмм-канал: @molyanov_blog