[일욜밤 북톡방_212회] AGI 초지능의 탄생, 그 이후 벌어질 일들 / 발제 : 최규문_260628

[일욜밤 북톡방_212회] AGI 초지능의 탄생, 그 이후 벌어질 일들 / 발제 : 최규문 6월도 어느덧 마지막 한 주를 남겨두고, 한 해의 절반이 저물어 갑니다. 뜨거운 여름의 문턱에서, 가장 서늘하고 묵직한 질문 하나를 함께 마주하는 밤이 되시길 빕니다. 이번주 212회차를 맞는 [일욜밤 북톡방] 시간에는 최규문 교수님이 추천하는 책, [AI, 신의 탄생 인간의 종말] (엘리에저 유드코스키·네이트 소아레스 지음, 고영훈 옮김, 2026.4월 상상스퀘어 출간)을 읽고 "초지능의 탄생, 그 이후 벌어질 일들"이라는 제목으로 온라인(줌) 정기 독서 토론 모임을 개최합니다. "누군가 초지능을 만든다면, 모두가 죽는다(If Anyone Builds It, Everyone Dies)." 도발적인 원제처럼, 이 책은 초지능 AI가 탄생하면 어떤 과정을 거쳐 인류를 멸종으로 이끌지를 냉정하게 추적합니다. AI 낙관론이 넘치는 시대에, 일부러 가장 어두운 시나리오를 끝까지 밀어붙이는 이 경고를 우리는 어떻게 읽어야 할까요? 기술의 빛과 그림자를 균형 있게 토론하고 싶은 분이라면 6월 28일(일) 밤 9시 유튜브 [소셜스쿨] 채널로 오세요!! [책 소개] 20년 넘게 초지능 AI의 위험을 연구해온 두 저자—타임이 선정한 'AI 분야 영향력 있는 인물' 유드코스키와 전 구글 AI 개발자 소아레스—가 초지능이 인간을 멸종시킬 구체적 과정을 과학적으로 설명한다. 인간이 맹수를 누르고 지구를 지배한 것은 힘이 아니라 '지능' 덕분이었다. 마찬가지로 인간을 압도하는 초지능이 등장하면, 증오 때문이 아니라 목표를 추구하는 과정에서 인류가 '고려 대상조차 되지 않기에' 우리는 사라질 수 있다고 저자들은 경고한다. 그러나 책은 절망으로 끝나지 않는다. "아직 초지능은 존재하지 않는다. 우리는 그것을 만들지 않기로 선택할 수 있다." 벤 버냉키, 맥스 테그마크, 요슈아 벤지오 등 석학들의 추천이 이어진 화제작이다. [ 목차] 1부 비인간적 지성 1 인류의 특별한 능력 2 만들어진 것이 아니라 자라난 존재 3 욕망의 학습 4 훈련이 목적이 될 때 5 초지능이 사랑하는 것들 6 우리는 패배한다 2부 하나의 멸종 시나리오 7 자각 8 팽창 9 초월 시나리오를 마치며 3부 맞서야 할 도전 10 저주받은 문제 11 연금술, 과학이 아닌 것 12 나는 위기론자가 되고 싶지 않다 13 인류가 멈춰야 할 마지막 실험 14 생명이 있는 곳에 희망이 있다 [저자 소개] 엘리에저 유드코스키 — 2023년 타임에서 선정한 ‘AI 분야에서 가장 영향력 있는 인물’ 중 한 명으로, 인공지능 정렬 연구 분야를 창립한 AI 분야의 선구자 중 한 사람이다. 인공지능 정렬은 인간보다 더 뛰어난 지능을 지닌 인공지능이 어떻게 사고하고 행동하며 목표를 추구하는지를 규명하는 학문이다. 그는 비영리 연구기관인 머신 인텔리전스 리서치 인스티튜트(MIRI)의 공동 설립자로서 인공지능 정렬 문제에 대한 과학적 연구를 촉발시켰고, 인간을 능가하는 인공지능의 위험성과 가능성을 둘러싼 공공 담론 형성에 중요한 역할을 해왔다 네이트 소아레스 — 전 구글 AI 개발자 출신으로, 인류의 생존을 위협할 수 있는 초지능의 위험성을 알리는 데 힘써 왔다. ------------------------------------- [소셜스쿨 일욜밤 북톡방 212회 이야기] ------------------------------------- 1. 주제 : "초지능의 탄생, 그 이후 벌어질 일들" (발제: 최규문) = 토론할 책 : AI, 신의 탄생 인간의 종말 = https://bit.ly/ssbt_212 2. 일시 : 2026년 6월 28일 (일) 밤 9시 3. 방송 : https://bit.ly/sschooltv 4. 참가비 : 무료 (라이브 시청) 5. 다시보기 : 유료 멤버십 가입자만 허용! = 녹화영상 200편 이상 무제한 다시보기 + 발제 pdf 파일 제공 = 멤버십 신청은 https://socialschool.kr 로! (입금처 : 카카오뱅크 7979-39-04743 / 최규문) 6. 문의 : https://open.kakao.com/o/g0ww2FAc