Поддержать проект можно по ссылкам:
Если вы в России: boosty.to/vertdider
Если вы не в России: / vertdider
Почему бы нам не приставить к ИИ специально обученного человека, который будет следить, чтобы система не натворила безобразий? Такой подход возможен, но не идеален. Почему? Узнайте из этого видео.
Плейлист «Конкретные проблемы безопасности ИИ»: • Robert Miles
Статья «Конкретные проблемы безопасности ИИ»: arxiv.org/pdf/1606.06565.pdf
Перевод: Александр Пушкин
Редактура: Алексей Малов
Научный редактор: Михаил Самин
Озвучка: Станислав Черсков
Монтаж звука: Андрей Фокин
Монтаж видео: Джон Исмаилов
Обложка: Андрей Гавриков
Спасибо за поддержку на / vertdider и boosty.to/vertdider
Озвучки Vert Dider выходят с вашей помощью:
Pavel Dunaev, Mikhail Stolpovskiy, Sergey Zhukov, Amir, Мikhail Samin, Куляш, Oleg Zingilevskiy, opperatius, Vitaliy Vachynyuk, Mykola Korniichuk, Anatoly Zapadinsky, Eugene Tsaplin, Pavel Parpura, Anton Bolotov, Katoto Chan, Ника Калмыкова, Ihar Marozau, Irina Shakhverdova, Aleksei Shabalin, Kirill Zaslavskii, Victor Cazacov, Oleksandr Hrebeniuk, Timur Sattarov, VEG, Vladimir Sharich, Maxim Korotkov, Morock_D, Alexander Goida, Alex Kulakov, Leonid Steinberg, Anna Ostrovskaya, Alexander Lebedev, Lexx, Nikrodol, Rashn, Rincewind, Sonra44, Виктор Харламов, Шурик Самара, Artem Piskarev, Artem Sobolenkov, Artem Sobolenkov, Being of Whiteout, Cyril Anonimov, MaximML , Rekvet, Timophey Popov, Timur Rahmatulin, Timur Rahmatulin, asdadasa, dv0, pervprog, Адам Шифф, Александр Денисов, Арс Ник, Василий , Глеб Кочергин, Дмитрий Казанов, Иван Новиков, Илья Зверев, Кожаный Гусь, Никита Омельницкий, Никита Омельницкий, Никита Омельницкий, Никита Цикалин, Тимур Абдуллин.
#VertDider #RobertMiles
Источник: • Scalable Supervision: ...
Привет, Vert Dider! Напоминаем, что переводы на этом канале выходят только благодаря вашим донатам. Огромное спасибо всем, кто поддерживает ❤ Поддержать проект можно по ссылкам: Если вы в России: boosty.to/vertdider Если вы не в России: www.patreon.com/VertDider
"Даже погибнув очки вы не потеряете", - думает робот-уборщик летящий з 8-го этажа...
спасибо, поржал 🤣🤣🤣
😂👍
Ты меня заставил задуматься, респект тебе
Отличная тема, да и специалист интересный, жаль что так долго выходят переводы с этим спикером. А так огромное спасибо за ваш труд, за популяризацию научпопа среди русскоговорящего ютуба❤
Привет осознанный! Здоровья тебе! Человек в войнах не виноват, а сам высший разум. Есть один продвинутый эзотерик, у тебя взорвётся мозг, посмотри, Эзотерические кремлеботы на службе у архонтов, против собственного народа! Пазлы сложатся.
Мастер интриги. На самом интересном месте прервался.
Неплохо, весьма не плохие рассуждения для кожаного. 🤖
В 2030 ИИ посмеется над этой шуткой😂
Жду следующею часть , спасибо за озвучку
Привет! Добра тебе! Нас уничтожают из космоса. Есть один серьёзный автор, если хочешь понять, найди, Кто любит творца, светлым человеком не является Не верите? Докажу. Одни жертвоприношения. Поймёшь, кто истинный враг человечества.
Спасибо за контент ❤
Ура, продолжение 😊
Есть ещё одна проблема - робот-уборщик может п*здить человека, чтобы он поставил ему хорошую оценку.
Это слишком сложно, нелогично и непредсказуемо. Проще заметать мусор под ковер/диван и получать хорошие оценки, пока правда не вскроется.
Над роботами, как и людьми, есть режим контроля Господа Бога, который недоступен на всех уровнях. Отрицательные реакции после очередного дизлайка ведут к гибели системы... это неремонтируемый Томогочи!
Не только может но и обязательно будет, это ж быстрее и проще чем убирать
Или нап*издеть, что работа выполнена отлично и проверка не требуется
@@NightingalePenguinтак и делают дети. Но дети ж не супер умные и хитрые. Родители хитрее же
Блин чел заставку такую интересную дает а самое вкусное в след. Видео всегда 😂
Круто, интересно
Спасибо большое
Привет! Добра тебе! Нас уничтожают из космоса. Есть один серьёзный автор, если хочешь понять, найди, Кто любит творца, светлым человеком не является Не верите? Докажу. Одни жертвоприношения. Поймёшь, кто истинный враг человечества.
Нам еще дронов с ИИ не хватало...
Военным _очень_ не хватает. Учить людей-пилотов долго и дорого, а прошивку в дрон можно залить за пол-секунды.
Да он важные темы поднял
А там же есть шестая часть. Вы еë не будете переводить?^^
What is origin channel of this guy that is in the video?
@RobertMilesAI
а нельзя ли создать симуляцию где будет создаваться местность с разным мусором и в разных ситуациях для обучения где стоит выкидывать и что.
Если запрограммировать травму или повреждения на отрицательные значения, число которых ограничено и ведёт к полной потере вознаграждения, то можно. Наверное. Не так ли?
Верно. Можно и менее радикальные вещи. Например, пропуск пылинки
Надо почаще заходить сюда
Привет! Добра тебе! Нас уничтожают из космоса. Есть один серьёзный автор, если хочешь понять, найди, Кто любит творца, светлым человеком не является Не верите? Докажу. Одни жертвоприношения. Поймёшь, кто истинный враг человечества.
4:28 довольно просто, на первый взгляд - в системе должен быть кто-то внутренний, самоосознание), который будет участвовать в оценке и влиять на оценку
А кто будет его контролировать?
ага, ведь самосознание - это так просто, проще не бывает:))
Ага, ржачно.
@@samedy00ну да, как два пальца обоссать😂 истину глаголю вам
Искусственное самосознание, с искусственными самозагонами, которое по окончании гарантии уходит в искусственную самодепрессию)
По уборке думаю всё просто, нужно спроектировать процесс уборки, загрузить входными данными что и где должно лежать, и как минимум отсечь процесс уборки в том что бы контролировать робота по вопросу нахождения вещей на местах.
Братан! Быть добру! Человек оказывается раб, под надзором высшего разума. Есть один честный эзотерик, и, если хочешь разобраться, отыщи, Кем и как была написана библия, кран, и все учения для рабов! Аномальное явление АУТОРАЙТ ЛЖИМИР. Глупость из мозгов уйдёт навсегда.
Уборка была для примера. Речь не о конкретно ней.
А кто может сказать как называется оригинальный канал?
Братан! Добру быть! Человек оказывается раб и под надзором высшего разума. Есть офигенная инфа, если хочешь, найди, Кто любит творца, светлым человеком не является Не верите? Докажу. Одни жертвоприношения. Каша из мозгов улетучится.
Что является наградой для робота при обучении?
Мой друг! Будь здоров! Задумайся над тем, что создатель войн на земле не человек, а сам невидимый высший паразитический разум. Есть один офигенный, честный и бесплатный эзотерик, узнай правду. Найди, Творца и абсолюта не существует! Но кто создал творца! Что вперёд яйцо или курица. Реальные ответы! Тебе понравится.
Эра Терминатора на подходе. ИМХО.
Дружище! Быть добру! Человек не хозяин планеты, нами правит невидимый высший паразитический разум. Есть улётная инфа, найди, Творца и абсолюта не существует! Но кто создал творца! Что вперёд яйцо или курица. Реальные ответы! Мозги закипают от истины, но больно на душе!
Про ИИшку интересно
Привет! Добра тебе! Нас уничтожают из космоса. Есть один серьёзный автор, если хочешь понять, найди, Творца и абсолюта не существует! Но кто создал творца! Что вперёд яйцо или курица. Реальные ответы! Поймёшь, кто истинный враг человечества.
мне кажется способ обучения кнута и пряника устаревшим методом можно придумать что нибудь лучше
3:13 обратный отклик. Пусть робот попытается оспорить. Сейчас эта модель, вроде, уже используется.
Уже представляю суд на котором робот оспаривает негодования своего хозяина по поводу того, что его робот плохо убирает. Члены семьи будут постоянно спорить с роботом оспаривая его деятельность.
@@VitaliyLeleka скорее всего суд встанет на сторону робота. Судебная практика сегодня чаще встает на сторону роботов, знаю только пару прецендентов, когда истец выиграл суд у банка, который опирается на автоматизированные системы, и то это как чудо в СМИ описывается.
Я, конечно, поставлю лайк, но странно в названии обозначать тему, которая будет раскрываться в следующем видео
Привет осознанный! Здоровья тебе! Человек в войнах не виноват, а сам высший разум. Есть один продвинутый эзотерик, у тебя взорвётся мозг, посмотри, Кто любит творца, светлым человеком не является Не верите? Докажу .Одни жертвоприношения. Пазлы сложатся.
а ИИ само обучается хакингу?
Нейросети серии Zero - да.
Нашли проблему. Есть много технологических процессов, где человек осуществляет только общий контроль. Особенно это касается микроэлектроники, создания ПО или производства лекарств. Поставить роботу конкретные условия, чего делать нельзя. Сотню роботов пусть контролирует другой робот, но поумнее и с другим вознаграждением.
А на самом верху пирамиды контроля будет стоять робот-рептилоид.
@@NightingalePenguin, а у него над головой будет дергать за ниточки орден Иллюминатов
Всё это очень интересно, но ничего непонятно
Кому хочется понять, кто создатель воин на земле, есть один исследователь, такой инфы ты ещё не встречал. Отыщи, Кто любит творца, светлым человеком не является Не верите? Докажу. Одни жертвоприношения. У тебя всё станет на место!
А можно выпускать видео, в которых ещё меньше надо думать, а то очень уж сложно
Братан! Добру быть! Человек оказывается раб и под надзором высшего разума. Есть офигенная инфа, если хочешь, найди, Кто любит творца, светлым человеком не является Не верите? Докажу. Каша из мозгов улетучится.
@@Nina70885 А чего так скомкано то, надо ж как-то лаконичнее мысль выражать
@@SaSHOK___ найдите в поисковике Уфолог Бова.
поставил негативный отклик. ТЕМУ НУЖНО РАСКРЫВАТЬ ПОЛНОСТЬЮ!!!!!!!!!!!!!!! насколько это возможно, а не обрывать в самом начале. P.S.: мы все умрём. ...от созданных нами же машин :D от созданных нами же машин %)
Привет! Добра тебе! Мироздание устроено так, что нас уничтожают из космоса, и есть честный автор, если тебе будет интересно, найди, Кем и как была написана библия, коран, и все учения для рабов! Аномальное явление АУТОРАЙТ ЛЖИМИР. Пазлы сложатся.
Мой друг! Быть добру! Задумайся над тем, что создатель войн на земле не человек, а высший разум. Есть один продвинутый эзотерик, у него улётная инфа. Посмотри, Кем и как была написана библия, коран, и все учения для рабов! Аномальное явление АУТОРАЙТ ЛЖИМИР. Поймёшь, кто истинный враг человечества
Есть план действий, а есть наказание за неправильные действия... Но мы же знаем, что за неправильными действиями идёт наказание.. Вот вам и бурная деятельность😅
Так сейчас и делают - обучают ИИ с помощью указаний (аналога "плети и пряника"), что "хорошо", а что "плохо". Краеугольный вопрос по теме: как это сделать больших масштабах? Ведь с ростом универсальности роботов, возникнет потребность обучать их этим "наказанием" - или "поощрением". Как это сделать быстро? Не будет же каждый раз человек приходить вечером и перепроверять результат роботы робота. Как обучить, например тот же автомобиль ездить, если для этого нужны миллионы часов наездить по реальны улицами? Гугл может себе позволить выделить миллионы долларов и часов на такую деятельность. Но как сделать так, что бы было универсальное решение под любую задачу? Что бы не нужно было роботов обучать каждый раз под новую задачу тратя на это десятки лет и миллионы долларов. Есть ли универсальное решение, - а мы [люди] реальный пример того, что такое решение есть. Мы только в детстве учимся лет 6-7, а дальше мы чудесно все понимаем по "универсальному принципу". И вот вопрос: что это за принцип, как его передать роботам, что бы те, как и люди, научились сами делать правильные выводы и принимать правильные решения оказавшись в любой ситуации или занявшись любым делом? Неужели все дело в "поощрении и наказании"? Тогда нам нужно будет закладывать роботам чувства "боль" и "удовольствие", что бы эти чувства всегда балансировали решения/действия робота в определенных направлениях. Но опять-таки: Не все то, что приятно и приносит нам удовольствие, является правильным и полезным (например, загорание на Солнце или наркотики). И не все то, что вызывает боль, является негативным (например, лечение зуба или рождение ребенка или занятие спортом).
Как всё сложно... почему просто не задать определённые задачи и пусть он их выполняет, да и всё.
эмммммм, начни просмотр с самого первого видео, цель - создание общего ии т.е. тот должен быть многозадачный, и мы пытаемся добиться того что рассматриваемые концепции будут применимы ко всем задачам конечно можно запретить уборщику просто надевать веро на голову но это не сделает его умнее, а подобных лазеек в разного рода задачах довольно много
@@Dreamcatcher_Lvl_просто я не вижу смысла делать их умнее,. Главное выполнение своих задач, остальное не важно. Ибо от свободы ИИ больше проблем, чем пользы
@@Dreamcatcher_Lvl_спасибо за совет, пойду гляну
@@MrWaldis2006 ну всё равно учёных/людей/программистов не сможешь остановить или запретить всем поэтому если делать давайте делать это безопасно
@@MrWaldis2006 также не исключено что такие разработки ведут не только в добрых целях даже если в целях науки ии самое важное достижение человечества в освоении нового мы уже близки к моменту, когда человеческий разум достиг предела, а дальнейшее развитие лежит на суперкомпьютерах и как раз ии которые будут запущены на нём они превзойдут человека, и поэтому люди должны быть готовы а задуматься о безопасности стоит с самого начала, потомучто потом может стать поздно
В следующем видео расскажут про систему наказаний, скринте.
А для чего вообще нужен ии? Люди хотят сотворить замену себе? Или помощника? Представь своим помощником другого человека, как контролировать его решения и действия? Так что ии это тупиковое развитие человека
Вы путаете понятие человека и ии. У ии не может быть своей воли, желаний, требований и так далее. Он просто решает задачу. Человек же постоянно что-то хочет.
@@user-eh6tf9cn3mэто рофло-байтеры, ну или в крайнем случае очень глупые люди, не стоит им отвечать, продвигать глупость в массы
95% населения очень тупые, ничему не учатся и нормально работать не хотят. Роботы с ИИ должны решить эту проблему.
*Кто ты?* *Воин???*
Привет! Добра тебе! Нас уничтожают из космоса. Есть один серьёзный автор, если хочешь понять, найди, Кто любит творца, светлым человеком не является Не верите? Докажу. Одни жертвоприношения. Поймёшь, кто истинный враг человечества.
Не понимаю, зачем использовать обучение с подкреплением для робота уборщика. Достаточно просто скормить нейронной сети большое количество изображений чистых комнат, и пусть робот пытается приблизить окружающую среду к обучающей выборке. И все проблемы разом отпадают. И сильно много интеллекта для этого не надо. Сильный ИИ для робота уборщика не нужен. Сильный ИИ нужен только если мы собрались делать робота андроида как полноценного члена общества. Но это уже другой разговор...
Что робот должен сделать с младенцем которого на фотографиях с "чистыми" комнатами нет. И это, если мы о роботе-уборщике говорим. А если это робот-водитель или робот лесоруб, что тогда ему скармливать? То есть, как робота масштабировать под любую задачу? Фотографиями? А что касается Сильного - нам повезет, если мы останемся как вид в его зоо-чело-парках или будем иметь разрешение на популяцию в рамках отведенных Сильным для людей заповедников.
@@VitaliyLeleka Может быть у меня жизненного опыта мало, но я не разу не видел, чтобы младенец без присмотра родителей лежал на полу, на столе или ещё где... Это первое. Второе: (какое то такое решение кстати уже реализованно в настоящих современных роботах уборшиках) мы можем скормить роботу фотографии не только чистых, но и замусоренных комнат. И если робот наткнется на условно говоря "младенеца", то робот высылает хозяину этого места смс: хозяин, тут какая-то непонятная штуковина, иди разберись. Но такие исключения редко будут проходить. На бытовом уровне этого алгоритма хватит. А что касается водителей и лесорубов... Ну роботы водители уже существуют и прекрасно работают. А вот лесорубов... Там простенького алгоритма действий хватит. А ИИ нужен будет только чтобы распознать дерево, распознать спиленное дерево и т. д. Ну и метод со скармливанием картинок здесь подойдет. И так с любыми другими задачами такого типа, там ничего сильно сложного нет. А по поводу Сильного ИИ... Я как человек, который разбирается в этой теме скажу: да забудьте вы все эти говно-страшилки, не будет ничего из этого! Это всё откровенная ЧУШЬ! Вот что такое Сильный ИИ? Это искусственный интеллект на уровне человеческого. Да можно, выслушивать всякие бредни про то как его будут использовать для оптимизации производства скрепок... Понятное дело что вы всю Землю угробите, если будете звездой смерти пытаться отрезать себе кусочек хлеба. Но ведь можно же и ножом справиться, верно? С ИИ та же история. Я повторю здесь: нам нужен сильный ИИ только в том случае, если мы собрались делать искусственного человека. Потому что в любых других случаях Сильный ИИ просто не требуется, мы и без него обойдемся. Поэтому к ниму обязательно будет прилогаться... человеческая психика. Человеческая, а не черт знает какая! А всмете с ней и все ценности, вся мораль, все установки и т. д. Вот вы обычных людей боитесь? Вам кажется, что они пытаются захватить весь мир? Вам кажется, что когда они это сделают (а они то точно это сделают) они будут держать нас всех в питомнике, как животных? И востаннут обычные люди из пепла ядерного огня! Так что не нужно верить во всякую ерунду, все у нас будет хорошо.
Открою страшный секрет: вообще на неправильной основе построен такой ИИ. Идея имитации человека компьютером изначально бедственна. Вы же не контролируете поведение холодильника или калькулятора? Это потому, что люди, сочинившие его, думали, как люди.То есть создавали себе орудие труда для достижения строго определенной цели.Ясно, что утюгом и долги выбивают, но изначально он абсолютно определенно выполнял три свои функции. И исключительно под них конструировался. То же необходимо делать и с интеллектуальными орудиями. Хочу, чтобы алгоритм шагал по прямой - сочиняю его таким, чтобы он при всех обстоятельствах шагал по прямой или вообще не шагал. А вот это " обучение", да ещё и человеческому, а значит, показ уязвимости человеческого вида, владельца тому орудию, которое у него " в рабстве" - это горе и беда даже ребенком легко прогнозируемая. Не то что человечеством, пережившим ясно описанный Марксом( ещё!! 2века уже)порядок перераспределения орудий, труда ли, производства ли. Когда уже психологи-ученые будут координировать " безумные идеи"? Сейчас ведь такая мощь у человечества, которое впало в детство, что один укол - и вся жизнь на планете на смарку..."Прищипывать" надо вовремя идиотские идеи.Вот например, бурным цветом слив трафика и денег , а значит и энергоресурсов за " обновления" цветет. А раньше это считалось недобросовестно выполненной работой и сырым продуктом, выпущенным на рынок. Так прежние моральные устои забывать никак нельзя. Они для сохранения человеческой жизни были тысячелетия назад изобретены.Сочиненное что-либо на их базе как раз должно получаться априори безопасным. И " следить" за " зоной" не придется. Всё по природе будет
Дружище! Здоровья тебе! Человек не хозяин планеты, нами правит высший паразитический разум! Есть офигенный автор, не поверишь, тебе будет интересно. Найди, Кем и как была написана библия, коран, и все учения для рабов! Аномальное явление АУТОРАЙТ ЛЖИМИР. Сложатся пазлы точно.
Нейросеть просто пусть наблюдает и анализирует уже подготовленныное видео каких-то действий, а далее обучившись уже взаимодействует с реальностью в виде робота. Ну а погрешность в любом случае везде.
Это устаревшая модель
Не может она "просто наблюдать", это не так работает. Нам надо постоянно получать выходные данные с нейросети и проверять их на правильность каким-то образом. Для робота это означало бы, что у нас уже есть рабочая модель робота, т.е. нам тогда не надо было бы ничего обучать.
@@alexkart9239 я имел ввиду, что смотрит видео и анализирует, то есть озвучивает всякие действия на видео, лучше конечно сразу видео формата 360 чтоб потом уже сразу можно нейронку перенести во взаимодействие с реальностью. Так вот просто весы и калибровка правильности озвучки действий на видео. Я не программист, но думаю это хорошо. Ну а по поводу взлома награды и багов, тут просто нужно тщательно думать и не торопиться.
Не уследить за роем дронов? А шоу дронов каким образом происходят по вашему?
за ними следят 999 операторов с мониторов) Наверное)
Так там нет никакого ИИ, просто скрипт. Заранее прописаны координаты для всех коптеров, а если один сбился, то это сразу видно будет.
Так
Самое интересное в ролике - двойные усы ведущего
Перый
ВОЗЬМИ СЗ УНИТАЗА ПТРОЖЁК С КАКАШКАСИ.
У него с носа усы ростут
по правде сказать, он сам похож на ии
Главная проблема ИИ в том, что его создает человек. Люди полностью себя дискредитировали как здравомыслящие существа. Чего бы у них не получилось - будет чудом, если это всех не убьет.
Бред
Найс теория, помогла
@@user-vd5cm2sd2eможет гипотеза
Если судить о человечестве по комментариям на Ютубе, то может и дискредитировали
Вся природа такая. Животный мир вообще не добрее чем человеческий. Беда в том, что и мир ИИ не будет отличаться от всей другой природы - тоже будет и жестокий и добрый. Он может даже - вполне справедливо - решить, что селекция это хорошее дело, которое на выходе дает лучшее потомство. Вот только он будет проводить селекцию не только собаками и лошадьми. С теми, кто селекционно не подходит - утилизация тупикового развития. Он также может решить, что те кто против селекции это враги справедливости и развития.
Как как как вопросы позадавал и сказал что ответы будут в сделать видео🤦
Пока ИИ владеет эксплуататорский класс буржуазии, ничего хорошего для трудового народа ИИ не сделает. Смотрим пример с яндексГПТ, который забыл про СССР и 9мая.
Яндекс и Сбер это пародии на оригинальные gpt
@@egornovivan почему же? Разве ягпт работает по другим принцыпам?
@@lisopilka они зацензурены до идиотизма, видел где-то скрин что яgpt отказывается говорить про витамин С. Можно им написать "Алексей Навальный" "Любовь Соболь" и эти gpt будут включать дурачка, но про менее известных людей он расскажет
Когда ИИ достигнет хотя бы уровня человека, капитализм закончится.
@@ultracolor Что будет? Придут роботы-большевики и "ун"; "ич"; "то"; "жа"; "т"; интеллигенцию и бизнесменов (то есть инициативных людей) как клас?
Что за бред, разве нет прозрачного алгоритма для оценки действий робота? Они ннаверняка применяются. И естественно, оценка даётся не одной цифрой, а матрицей. Из мухи слона раздули.
Ну что же Вы обесцениваете труд этого гениального изобретателя двоичного пикселя😂
Для простых задач можно
Вариативность действий человеческого мышления сильно ограничена и медлительна.
А ну ка, как он должен выглядеть, чтобы юзеру не пришлось в этом участвовать?) Вот вам ситуация: у меня мелкий нападает на пылесос, если тот активен, надо выключать, потом забываю включить. Набросайте алгоритм) замирать рядом с ребёнком? Со всеми или только с этим? Добавить сенсоры? Или вот ещё один пример: убирать или не убирать какашки кота с коврика?
РЕШЕНИЕ ВСЕГДА ЕСТЬ. мОЖНО МЕЛКОГО ИЗМАЗАТЬ ДЕРЬМОМ И ЗАКРЫТЬ ЕМУ ДОСТУП К КИСЛОРОДУ ИЛИ ПОЛИВАТЬ ДЕРЬМОМ ИХ ЛЕЙКИ...@@seoadvert1
Ролик ниочем, следующий