Сверхинтеллект: свобода или рабство? — Дима Акатер

Это лекция об искусственном интеллекте: как он выглядит сейчас и каким он будет потом. От ANI, узкоспециализированного ИИ, каким мы его знаем сейчас, через AGI, ИИ общего назначения, к великому и ужасному ASI — сверхинтеллекту. Вкратце прослеживая динамику прогресса технологий и отмечая, как он влиял на эволюцию человека как вида, Дима объясняет, что настоящий ИИ, чьё появление большинство экспертов предполагают уже около 2050-60 гг (если, конечно, всё будет идти так, как идёт сейчас), станет очередным витком эволюции homo sapiens. Какое отношение это имеет к либертарианству, спросите вы? А самое прямое. Отвечая на вопрос, что делать — можно и словом, и делом принять участие в дискурсе о развитии ИИ. Должно ли оно быть централизованным и подчинённым государству, с уничтожением частных дата-центров, либо же правильный путь — децентрализация? Это реальный спор в дискурсе про ИИ, и то, как мы, как человечество, на него ответим, будет зависеть наше будущее. Основано на Перри Метцгера "После сингулярности" на либертарианском фестивале Porcfest X:    • Perry Metzger - Beyond the Singularity - P...   Спасибо за поддержку, @monteliberoworld! Liberty Conf №2. Тбилиси, 7.07.2025 Наш Инстаграм: @libertyconf Наш Телеграм-канал: https://t.me/libertyconf И наш X: https://x.com/LibertyConfRu __ 0:00 Технологии формируют цивилизацию и нас как вид 3:20 Изобретение сельского хозяйства и письменности. Письменность даёт бессмертие идеям 4:11 События, которые меняют человеческую цивилизацию, становятся всё плотнее во времени 4:25 Письменность позволяет не рассчитывать на свою память. Но попутно люди всё меньше рассчитывают на свои физические возможности 6:27 В XIX веке существенные изобретения происходят почти каждый год 7:03 1830 — телеграф. Интернет как количественное улучшение телеграфа 8:00 XX век — замедление. Либертарианский взгляд 9:29 Мир радикально изменился за последние 30 лет 10:18 Что дальше? Если не будет катастроф, прогресс будет ускоряться 12:14 Закон Мура и экспоненциальный рост 14:26 Сингулярность 15:45 Препятствия к развитию технологий. Ресурсы, инструменты, нерыночные вмешательства государств, и главное — инженерные проблемы 17:20 Последняя технология. ИИ как способ автоматизировать решение инженерных проблем 17:50 Интеллектуальный взрыв 19:10 Насколько быстрей будут думать машины? 20:01 Последнее изобретение. С разумом приходит могущество 20:41 После создания сверхчеловеческого интеллекта эра человечества закончится? 21:32 Искусственный сверхразум меняет мир 22:37 Лестница разума 24:47 ASI — искусственный сверхинтеллект и его отношение к нам 25:46 ANI, AGI, ASI. Узкоспециализированный ИИ, ИИ общего назначения (уровень примерно людей), и сверхинтеллект 27:30 LLM 29:29 От ANI к ASI. Символический ИИ и нейросети 31:59 IA (улучшение интеллекта) — более естественный путь к ASI. Слияние технологий и нас как биологического вида 33:34 Вычислительные мощности. Когда у нас может появиться вычислительная мощность, сравнимая с мощностью разума всех людей? 36:11 Как применить вычислительные мощности должным образом? 38:27 Заметная доля экспертов считает, что 2060 — разумный срок появления меняющего мир сверхинтеллекта. Это всего через 35 лет 39:49 "Хороший" исход. Курцвейль 42:45 "Плохой" исход. Притча о красивых письмах 46:12 Политика. Юдковский за централизацию ИИ. Либертарианский взгляд — децентрализованный ИИ 50:00 Рекомендую интересоваться этой темой. Оптимизм 53:30 Может ли AGI совершить скачок к ASI без участия человека? 55:17 Тонкости отношений с ИИ, если ты глупая обезьяна homo sapiens. Соблазн бессмертия 56:16 Сейчас у нас нет технологии и вычислительной мощности для создания ASI? 1:00:00 Достаточно ли для AGI имитировать только интеллект, или нужны ещё и чувства, восприятие окружающего мира? 1:02:18 Архитектура AGI. Будет ли это реальный интеллект, если это не живая материя? 1:04:00 AGI — это продолжение нас в процессе эволюции? 1:05:10 Зачем человеку создавать ИИ, если тот потенциально опасен? 1:06:18 ИИ должен обладать эмпатией?