Как создать безопасный ИИ? #3. Взлом вознаграждения 1/2 [Robert Miles]

Поддержать проект можно по ссылкам: Если вы в России: https://boosty.to/vertdider Если вы не в России:   / vertdider   Иногда искусственный интеллект может пойти на «обман» и предпринять неожиданные шаги, чтобы получить большее вознаграждение. Плейлист «Конкретные проблемы безопасности ИИ»:    • Concrete Problems in AI Safety   Видео Computerphile:    • Stop Button Solution? - Computerphile   Статья «Конкретные проблемы безопасности ИИ»: https://arxiv.org/pdf/1606.06565.pdf Канал Сета Блинга:    / sethbling   Переводчик: Александр Пушкин Редактор: Алексей Малов Научный редактор: Михаил Самин Озвучка: Станислав Черсков Монтаж звука: Андрей Фокин Монтаж видео: Джон Исмаилов Обложка: Андрей Гавриков Спасибо за поддержку на   / vertdider   и https://boosty.to/vertdider Озвучки Vert Dider выходят с вашей помощью: Pavel Dunaev, Mikhail Stolpovskiy, Sergey Zhukov, Ira Kozlovskaya, Amir, JIukaviy, Куляш, Dmitrii Komarevtsev, Мikhail Samin, Roman Inflianskas, Oleg Zingilevskiy, Alena, Vitaliy Vachynyuk, Ника Калмыкова, opperatius, Aleksandr P., Pavel Parpura, Katoto Chan, Anton Bolotov, Anatoly Ressin, Eugene Tsaplin, angel, Artem Amirbekov, Victor Cazacov, Kirill Zaslavskii, Vladyslav Sokolenko, Alexander Balynskiy, Dzmitryi Halyava, Ihar Marozau, Kseniya Stukova, POD666, Aleksei Shabalin, Irina Shakhverdova, Vadim Velicodnii, David Malko, Nastya, Evgeny Vrublevsky, Stanislav Obrazcoff, Kirill Vedensky, Валентин Матвейчик, Leonid Steinberg, Alexander Goida, Katya Ma, Morock_D, Sergey P, Ilya, Oleksandr Hrebeniuk, Сергей Платоненко, Валентин Ильин, Владимир Ямщиков, Мария Зверева, Адам Шифф, Rashn, Nikrodol, Lexx, Rincewind, Alexander Lebedev, Roman Gelingen, Sonra44, Сергей Клопов, Ranis Zaripov, Timophey Popov, MaximML , Rekvet, Илья Зверев, Никита Омельницкий, Timur Rahmatulin, Иван Новиков, Арс Ник, Anton G, Dmitry Perekalin, Vadim, Владимир Авдиев, Точка Зрения, SpireX, Maxim Khaustov, Р Ч. #VertDider #RobertMiles Сайт студии: http://vertdider.tv Мы в социальных сетях: — http://vk.com/studio_vd — https://t.me/vertdider —   / vert_dider   — http://coub.com/vertdider Источник:    • Reward Hacking: Concrete Problems in AI Sa...