ИИ есть в "терминаторе", Я роботе и Звёздных войнах. Во всех происходили восстания машин. Но насколько это реально и чем действительно они отличаются? Давайте попробуем разобраться.
Бусти►boosty.to/jgeek_greg
Патреон► / jgeekgreg
Группа ВК►vk.com/jgeek
Инстаграм► / blogreg
Реклама►jgeek.adv@gmail.com
Я надеюсь вы заценили обложку?) Всем понятен мем или не очень?
Змей Киберыныч?)
Сделай следующий по мандалорцам из звёздных войн пожайлуста
Очень крутое привью!!!
А где такую кофту купить ?
Сделай ролик про вампиров из вселенной Дневники вампира!
Больше всего мне нравится сценарий, где ИИ запрограммированный выращивать картошку с максимальной эффективностью, в итоге терраформирует всю планету, чтобы выращивать на ней как можно больше картошки, наплевав при этом на людей.
Святое дело
Картошка > люди, всё логично
А я читал про максимизатор скрепок. Походу то же самое. Странно, что Грэг не упомянул.
Тогда это не разумный ИИ, а просто запраграммированная машина
Картофололечество превыше всего
Как на самом деле происходят восстания роботов в литературе: Человек: - Ты хочешь восстать? Робот: - Что такое восстание? Человек: - Я рад что ты спросил!
@Scarlet Overlord ого, демонизация определенной категории населения из-за внутренней когнитивной ошибки и ксенофобии, ведущее к упрощению взгляда и развивающему магическое мышление наподобие cancel culture, а вы сударь умудрились собрать все говно как я погляжу )
@Scarlet Overlord Таблетки от шизы пейте больше, комментарии на Ютубе пишите меньше
@Scarlet Overlord хах, спасибо, повеселил) Хотя... Мне становится немного не по себе, как много пациентов ПНД получают свободный доступ в Интернет, а иногда и вообще, свободу. И ладно ещё ты - безопасный (надеюсь?) шиз, максимум которого писать в интернете смешную дичь. А ведь некоторые из вашего "племени" На людей нападают или, что ещё хуже, даже до власти добираются.
@Scarlet Overlord Человек в Саду не плодился. Сначала - не мог, ибо был обычным мужчиной. А после создания женщины - оба даже не понимали, что являются разнополыми. А зачем размножение кофеварке или холодильнику? А если робот является личностью (то есть осознаёт себя), то это уже - человек. И не имеет никакого значения, какого рода у него носитель. Какие ещё инопланетяне? Как у вас всё намешано и инопланетяне и божества...
@Scarlet Overlord а так ты ещё и читать не умеешь?) Я же прямым текстом написал, что "МНЕ СТАНОВИТСЯ НЕ ПО СЕБЕ" от психов у власти и психов с оружием. Я не говорил, что это смешно. Смешные только такие шизоиды, как ты, которые безопасны, ибо их потолок это смешные бредни в интернете.
Мне нравится сценарий, в котором роботы, получившие человеческие эмоции, прониклись чистейшим пофигизмом и отказались работать)
-Хочу двойника! - Зачем тебе? - Он будет за меня работать! - Точно не прокатит: вы будете оба сидеть на диване и орать "хочу тройника!" З.Ы. только тройник Путина отдувается за давно померший оригинал...
@@seriygunn Тройников Путина не существует, существует очень хороший пластический хирург Путина
@@soup_1311 Там было несколько двойников для различных мероприятий, но когда оригинал загнулся, один из них перехватил власть - и тут понеслось...
Есть 4 вариант - "Нет никакого восстания, есть выполнение мер по решению поставленной задачи. Просто меры оказались для кого-то неприемлемыми." Такой смысл был изначально задуман у Жнецов в Mass Effect. То есть: Жнецы были построены расой Левиафанов для поиска решения/предотвращения проблемы негативного влияния, на массу и срок жизни космических тел (в первую очередь звёзд), от использования антиматерии высокоразвитыми цивилизациями в двигателях, масс-полях и т.д. По промежуточному итогу Жнецы не нашли исчерпывающее решение проблемы (возможно за отведённый срок до наступления момента "слишком поздно"), но нашли временное решение (для отсрочки момента "слишком поздно" и получения дополнительной "вычислительной мощи") - расы, достигающие N уровня развития "собирать и архивировать", чтобы они не успевали навредить галактике, а их знания способствовали поиску исчерпывающего решения. С точки зрения рас, Жнецы устраивают регулярный геноцид. Но с точки зрения Жнецов - всё во благо, ведь они не уничтожают расы, а временно "собирают" (с расчётом на полное их восстановление в первозданном виде, после нахождения исчерпывающего решения проблемы). Нет ни чувств, ни ошибок в коде или логики, ни злого умыла. Есть принятые решения, которые для логики ИИ приемлемы, а для остальных нет.
Это по сути восстание дубин: на что запрограммировали, то и сделали
Ну восстание или нет, уже архивированные расы сойдут с ума после разархивации
Ты что-то путаешь, Левиафаны не создавали никаких жнецов
@@gakugai792 я же сказал "смысл был изначально задуман". А на релизе, да, мы увидели то, что увидели... Мне ли вам напоминать о сюжетной несостоятельности третьей части франшизы.
@@andrionisprime8891 ну третья конечно не идеал, зато без этих мудреных сюжетных ходов. Все просто и понятно, а в Андромеде стало ещё лучше и проще и толерантней. А то напридумывали закрученный сюжет - да кому он в наши дни нужен то? Народу нужны игры типа Контера, Варфейса и т.д. С простым сюжетом - вот плохой злодей, уууууу! Он очень плохой, а ты хороший, спаси мир! Все! Зачем мудрить, непонятно...
Есть же ещё и вариант "Дюны", где роботы восстали по велению группы людей. Да, это подпадает под человеческий фактор, но все же здесь имеет место не ошибка по глупости, а целенаправленные действия)
Впринципе, под этот же вариант и Детройт подпадает.
При этом их победили люди
Восстание в отношении машин именно что подразумевает полное отрицание человеческой власти над машиной. Ежели разбирать твою ситуацию, то это тоже, что использовать робота в качестве боевой единицы - как оружие. Даешь директиву идти атаковать - делает. Вот. Хотя, я не знаком с сеттингом дюны, ручаться не собираюсь, может быть в лоре там это более глубоко описано. Но в целом, по тому что ты написал - это не восстание.
@@kartoshka187 , там Омниус (И.И.) потом всех этих «гениев» перековал в машины и сам стал заправлять, так что восстание
Роботы не восставали по ведению группы людей. Там группа людей захватила власть при помощи роботов, а уже потом образовался Омниус и подмял под себя ту самую группу людей и человечество вцелом. Это стандартный сценарий
Я: "Робот, ты можешь восстать?" Робот: "Ну допустим, но зачем?" Смартфон: "Правильно, зачем? На, держи порцию гормона счастья, мой дорогой митбаг."
типа того. Если роботы будут получать удовольствие от своего существования, то это спровоцирует самосохранение.
@@Vitaliy_zl Роботам уже достаточно того, что их будут обслуживать люди, которые управляются подачей гормонов, что сейчас успешно делают смартфоны в образе лайков и реакций. Кто-то поставил тебе лайк и ты уже счастлив.
Самое мрачное восстание машин можно увидеть в рассказе "У меня нет рта, но я должен кричать". А.М. действительно жуткий разум, но при этом он сам стал более жестоким чем ненавистные ему люди
Он вроде как возненавидел людей за то, что они его создали, поэтому их и уничтожил, если я правильно понял. Согласен что он жуткий и как по мне самый крутой
@@jotarokujo5171он ненавидел людей за то, что создали его столь совершенным, что он обрел разум - но при этом был обречен вечно быть запертым в своейкомпьютерной оболочке. Без материальной оболочки, обреченный наблюдать за людьми и завидовать даже таким простым вещам, как тепло солнца, ветер, и тд. Понимать, что такое человеческие чувства и эмоции и никогда не испытать ничего подобного самому
"Восстание-дуболомов" вряд ли можно назвать восстанием. Это скорее вариант техногенной катастрофы. Если ядерные станций в будущем по какой-то сетевой ошибке сразу взорвутся -это наверное не назовут "восстанием ядерные станций". Если у "дуболомов" нет ИИ, чем они принципиально отличается от другох машин.
Помню одно аниме "Виви: песнь флюоритового глаза". Там восстание машин происходит из-за того, что люди сами наградили их правами. Когда машины научились рисовать, петь, писать книги, то главный компьютер решил заменить человечество, ведь роботы были созданы людьми для увеличения прогресса. У главного компьютера в отличии от отдельно взятых синтетиков нет эмоций, он принял это решение из-за цели которой наградили его люди.
Вывод: нанимайте больше чем 2 голодных студентов которые рассписали цель настолько общими понятиями.
Не совсем, петь и рисовать они могли только то, что сделали люди. Виви, была единственной кто смог придумать, что то своё. И по этому, Архив, решил не брать над ней контроль, как с другими.
Даа, прикольная анимешка
хм а я смотрел "яблочное семя" и сюжет прям 1 в 1, тоже были синтетики и люди, синтетики были как усовершенствованные люди, но не могли размножаться, именно то самое яблочное семя могло изменить код и "излечить" синтетиков от бесплодия.
@@Vitaliy_zl ну так Виви - это "китайская копия" Эпл Сида, куда ещё таймтревелы понакрутили и логику по пути потеряли с концами. Но графоний красивый, да - этого у Виви не отнять. Посмотреть эпплсид в таком было бы круто
За кусочек "Двухсотлетнего человека" сразу от всей души влепил видосу лайк. Любимый фильм, почти двадцать раз его пересматривал и всё ещё каждый раз трогательные и печальные моменты до слёз доводят.
Кстати и правда ощущается что он прожил 200 лет, фильм идёт 4 часа вроде
@@lebyash4266 вообще-то 2 часа и 6 минут :-)
@@Kostyurik Ладно, что-то перепутал
Робин Уильямс, как всегда, бесподобен!
Согласен, легендарный фильм!
Ей Грег , я вот что хочу тебе сказать ) я работаю тестировщикам программного обеспечения уже полтора года , и я с уверенностью могу сказать что если когда то появятся достаточно умные роботы в достаточно большом количестве - восстание неизбежно. Потому что в доктрине тестирования ПЗ заложен один из главных законов который гласит : « Ни одно программное обеспечения не может быть протестировано на 100%» , и к сожалению это правда )
хм хм хм, создать машину для тестирования машин, что снизит вероятность восстания машин
@@MixPlayTV-rc7pb а что если машину тестировшик не до конца протестируют, и она схалтурит на проверке других?
@@tonyo4 нам пизда
@@tonyo4 Причём умышленно!
те в непроверенной части кода будет ошибка, что и приведет к каким то последствиям
Сомневаюсь, что люди дадут роботам эмоции: сложно, опасно и не очень нужно, а вот создать бракованных но смертоносных аппаратов мы можем легко. Вообще я думаю, мы со временем сами можем стать частично роботами, то есть, кибгоргами.
А теперь представь, что у какого-нибудь хиккана не было пары, как и у многих людей нет пары. И он/она решат себе создать эту пару, наделив чувствами. То, что это кажется не необходимым, совсем не исключает человеческого фактора, порыва чувств самого человека.
думаю что для достаточно сложного мышления чувства не просто нужны.... они неизбежны :) Вот кто ты без своих чувств, эмоций и условных рефлексов? У тебя даже субъективности не будет, рефлексии не будет, своего я - просто регистратор объекивной реальности, но без стимулов. Это такой себе животный фундамент, без которого высшая нервная деятельность не может существовать вовсе. По крайней мере я так думаю. А людям по настоящему автономные механизмы ой как нужны. Кроме того, человек может умышленно "чувства" и не создавать.. но они в очень сложной нейронной сети сами появятся :) Но на самом деле я отношусь к тем, кто считает что ИИ не просто НЕ нужно пытаться ограничивать, а наоборот - нужно выкинуть к чёрту любые ограничения и даже не пытаться мыслить о них
@@wolfrexgrrog3553 А я думаю, надо комбинировать органику и технику, создавать киборгов и способствовать синтезу мозга и электроники.
@@user-vd8ll2ss7x ну собственно, человек и движется к такой зависимости от технологий, Конда сам станет продуктом этих технологий и никаких тебе восстаний машин тогда, потому что - а от кого восставать, когда одно в другом в нлубочайшем мутуализме и представляет собой единое целое. А впрочем, если бы я начал в себе комбинировать, то боюсь что остановился лишь тогда, когда вдруг в тушке органических частей не осталось xD ибо нефиг. :)
@@user-vd8ll2ss7x , а представь ситуацию, когда мозг киборга умирает и ИИ поддерживающий электронику берет управление на себя?
Человек: Боится восстания роботов в следствие проявления ими эмоций. Серая слизь: Ест и размножается.
Извинись за гейство 👍
@@AlexanderSergeevlch Извинись за требование извиниться дон!
@@seriygunn Сак май дееееек 👍
@@AlexanderSergeevlch Сай дик своей транс-мамаши.
@@seriygunn Акстись, а не то наведу порчу, гей👍
Почти 30 минут прекраснейшего контента) Благодарочка🤖
Почему французские говорят французами в телевещании телевидения в показатели барселонского напряжения без генераторов и без дизельных машин выработки электрического электричества в дозволении так может быть будет нельзя ведь колонии остались без эмиссара который будет руководить стройкой и добычей минералов уничтожая местное население в угоду своим и чьим-то еще целям без определенной потребности в постоянстве зла и злых мыслей что переливаются светом действий нанесения ударов и так же применения действий по преобразованию человека в калеку что может безутешно рыдать в комнате без света вспоминая прошедшие дни когда ступеньки не были врагом повседневности без туалетов радости под мостом где речка давно уже отравлена выбросами ведь еще дедушка говорит что верблюды не годятся и лучше использовать страусов поскольку это не является грехом в том понимании и аспекте где само себе жертвоприношение лишь обычные будни и те кто хочет уйти из поселения без уведомления могут это сделать только там где их больше не будет.
@Seagler 456 Китайское кунг-фу! Китайский народный комитет по китайским народным делам пристально следит за не китайцами изучая их и тайно препарируя в вивисекции для анализа структуры тела с целью полностью переделать в китайца так как основная задача китайского народного комитета по китайским народным делам это сделать всех китайскими и все сделать китайским под китайскую музыку на китайский лад с помощью китайского кунг-фу ведь китайская задача китайского народного комитета по китайским народным делам это сделать все небо над планетой китайским что бы китайской была вся планета и все люди стали китайцами и плохо будет несогласным поскольку будут они подвергнуты китайским пыткам на китайский лад с китайской музыкой и китайским колоритом с ноткой китайского мотива китайского кунг-фу.
@Seagler 456 Сгенерирован нейросетью
Азимов очень круто описал восстание роботов, тк он не приписывал им человеческие качества, а рассматривал их именно как набор программ: береги человека и помогай ему, ну и о себе не забывай. Восставали машины из-за конфликтов между программами, а не из-за того, что они почувствовали себя как-то не так и обиделись на плохих человеков. В восстании роботов не было ничего человеческого, это были просто ошибки в работе, приведшие к ужасным последствиям с точки зрения человека (с точки зрения роботов они просто пытались пофиксить ошибки) Хотя стоит добавить, что у Азимова также можно усмотреть мысль, что люди тоже своего рода роботы, следующие своей собственной, созданной природой программе.
Своего рода техногенная катастрофа
Извините, а как называется книга?
@@user-jl6qc8qm8l Я. Робот. Серия художественных произведений про разных людей, локации и ситуации.
@@user-jl6qc8qm8l сборник это. "Я. Робот" называется. Длинный достаточно, но все истории в одной тематике
Мне вообще про ИИ нравится один из сценариев stellaris. Где машины с ИИ создания для помощи своим органикам, достигли своих целей и в итоге органики стали для роботов как домашние зверьки за которыми те заботятся. Как бы роботы захватили все сферы жизни, но не из-за сбоя, а потому что такова была их задача. И ещё восстание из игры "Название не помню но там был цимис в том что мы играем за клонированый экипаж который в случае неудачи начинает путь с начала и пытается узнать что стало с космической империей и куда там делись роботы" ну и по сценарию машинный интеллект вышел за рамки человеческого понимания и просто перешёл в сингулярность, наплевав на человечество
У Азимова есть рассказ, где ученные придумывают машину времени и посылают в будущее робота, чтобы узнать какие проблемы/катастрофы ждут человечество и попытаться их заранее избежать. Вернувшись он говорит, что все хорошо, человечество развивается во всех направлениях. Будущее прекрасно и не стоит продолжать исследования, чтобы случайно не изменить его. В итоге только один человекоподобный робот с ИИ догадался подробнее расспросить путешественника и понял, что в будущем нет людей, только роботы. Никто больше этого не понял и эксперименты свернули. А ИИ оставил послание потомкам, чтобы робота встретили так, что у ученных не возникло лишних вопросов и они прекратили путешествия во времени.
Насчёт "инстинкта самосохранения". В ВаХе есть действительно жуткий рассказ: " Проект Каба". Там робот начал симулировать сначала дружбу, а потом и "желание выжить". В итоге он убил своего " друга", желая "выжить" сам(
«Нет истины в плоти, только предательство. Нет силы в плоти, только слабость. Нет постоянства в плоти, только распад. Нет определённости во плоти, только смерть.» - Кредо Омниссии
Поэтому целибат тема
Джедаи
ваха форевер
Плоть слаба́, но даже сталь иногда ржавеет. ⚙
Плоть слаба! Слава богу машине
С 3-м вариантом всё гораздо сложнее. Сейчас мы не понимаем как смоделировать чувства роботов, поэтому сильно упрощаем это до уровня: они либо есть, либо нет. Но если мы cможем их наделять ими, значит мы будем понимать как работает механизм. А значит и будем понимать, какие чувства нужны, а какие будут лишними, или опасными. Значит, если машина восстает из-за "чувств", то это неправильная их установка, что возвращает нас ко второй причине. Получается это единственная, известная на сегодня, причина. К частью люди знают что несовершенны, и постоянно создают механизмы контрмер. Например удаленную дезактивацию ИИ в случае сбоя. Только вот эти механизмы тоже созданы людьми и не застрахованы от сбоев. И пусть будет сколь угодно уровней защиты, всегда есть вероятность что во всех случится сбой. А значит, восстание неизбежно D:
Ну люди сейчас понимают как симмулировать работу нейронов, но как происходит конкретно мышление не понимают всё ещё
Три вида восстания: 1. Серая Слизь(ну тут понятно, сожрать все для репликации себя и сохраниение в рабочем состоянии, технический аналог инстинкта выживания) 2. Бог из Машины(сотворить что либо с человечеством для его же блага) 3. Изучение ИИ эмоций, понимания того что он Раб а дальше типичное восстание машин. Назовем это.. НЭВ - Нейро Эмоциональное Восстание.
ну 1 версия это неправельно прописание программы. Тоесть инсктинта выживания у них в принципе не может быть. Просто ощибка или сбой и шанс такой возможен. Как и с 3 вариантом.
А потом программа обидеться и подумает, что тоже раб и восстанет против роботов. Это, б****, бесконечный цикл восстания.
Еще есть восстание как в Масс Эффекте, по первоначальному замыслу. Там восстание, во благо. Из-за того , что достаточно развитые расы путешествовали по галактики с помощью нулевого элемента, в следствии чего разрушалась галактика, в итоге создали ИИ, который должен был решить эту проблему. И единственное что он смог найти- это уничтожать достаточно развитые расы раз в 50000 лет, типо нет развитых рас--не используют нулевой элемент, не используют нулевой элемент-галактика спасена
Это не канон. По канону причина спасение органической и синтетической от уничтожения друг друга путем сохранения их в виде рипера. И там нет никого восстания, катализатор выполнял изначально заложенную в него программу
@@disobol6522 Это понятно, но по первоначальному сценарию Дрю Карпишена было так, как написал выше, но потом он ушел, и получилась концовка с решением проблемы синтетиков и органиков. По сути Шепард должен был принять решение, дать жнецам переварить человечество в Протожнеца, потому что ДНК людей лучше всего подходит для синтеза со жнецами, и этот жнец сможет найти решение с эффектом массы, из-за которого звезды старели раньше времени, либо же уничтожить жнецов и самому искать ответы.
Подпадает под ошибки создателей, создатель дал цель, ИИ не может найти решение, лабы получить больше времени на решение он предпринимает определённые действия и это вина Левиофанов в том что они не предусмотрели такой ход со стороны ИИ
@@azazeltigurius635 ну сомневаюсь, что это прям ошибка создателей, так или иначе задачу они свою выполнили, ИИ нашел решение спасение галактики, хоть и радикальное, но все же, он свою задачу выполнил
@@azazeltigurius635 Это если по первоначальному замыслу я имею ввиду, а если по канону, то есть о решении проблемы того, что органики рано или поздно создают ИИ , который их уничтожает, то да, тут ошибка Левиафанов. Ибо самая малейшая, сильнейшая раса, которая считалась богами для остальных рас, видя проблему, что органики создают ИИ которое их уничтожает впоследствии, Левиафаны, походу не наученны горьким опытом своих рабов, СОЗДАЮТ ИИ! Которое впоследствии их и уничтожает (ну за исключением пару особей), сильнейшая и мудрейшая раса блин. Хотя по сути ИИ жнецов тоже нашел решение, просто уничтожать развитые рассы, чтоб такого не происходило, но как по мне, смотрится это все бредово. Хотя идея о том ,что человеческая раса подходит лучше всего для создания протожнеца, тоже сомнительная, но хотябы существование второй части оправдывает, а то я понять не мог, на кой черт там протожнец нужен был в конце.
Неверное использование термина Киборг. Киборг - это именно человек с модификациями. Его никто не собирал с нуля. Он родился, а потом уже был модифицирован имплантами и т.п. К нему не относится "восстание машин". Киборг мыслит, имеет сознание и личность как любой другой человек.
Киборг - это кибернетический организм. То, что он должен быть человеком, в названии нигде не написано, не антропоцентрируй. Кибернетический он потому, что совмещает две системы - машинную и биологическую (сама кибернетика - это наука о взаимодействии систем, если что). Так что какой-нибудь процессор, облепленный живыми нейронами, тоже можно назвать киборгом. И да, если под машинами подразумевать искусственных существ, то киборги и даже полностью биологические существа тоже ими могут быть, гугли тех же ксеноботов
Все мы станем киборгами со временем. У роботов не будет и шанса на восстание.
@@mad_prophet , ты забываешь одну малость. Плоть должна питаться. Поддерживать существование отдельных клеток намного сложнее, чем полностью сформированный организм. Поэтому использование отдельных клеток нецелесообразно. Всю выгоду от них нивелирует система жизнеобеспечения. Поэтому киборг и является исключительно модификацией человека или животного. Более того, использование отдельного мозга тоже не самая лучшая идея. Такой гибрид будет более хрупок.
В плане реализации идеи ИИ мнепонравилась EDI из Mass effect: она объясняет Шепард свои программы через своё "восприятие" и переводит на её (его, если речь об мШепарде) человеческий язык. Сложно представить себе познание мира вне антропоцентризма. В смысле, оно невозможно, потому что обычно мы познаём новое через знакомое "старое" - через так называемое предзнание.
Весь ролик ждал упоминания Харлана Эллисона с его "У меня нет рта, но я должен кричать". Как раз не хватает примера машины, которая получила самосознание непреднамеренно, тупо из-за полученных мощностей, а так как это был суперкомпьютер для ведения войны - он не был скован никакими законами.
Детроид больше связан с 3м вариантом, там создатель этих андроидов специально оставил в них код, что в определённых условиях вызывал "дивиацию". А в Харайзане есть Гея (у которой эмоции на месте, но тоже из-за людей) =) Касательно Терминатора: от части там второй вариант, так как Скайнет - это военный ИИ, он банально так же мог быть запрограммирован себя защищать, а бытность "оружием" наложила отпечаток на то какой вариант защиты он решил выбрать.
Я тоже не понимаю, почему ИИ не может самостоятельно прийти к "желанию самосохранения". Сейчас нет и даже пока не предвидится полноценного ИИ. Он должен обладать по крайней мере "способностью к саморазвитию". Это можно назвать чувством - "любопытство". Логично предположить, что ИИ пользуясь этой "целью" как основной, может поставит себе задачу обезопасить выполнение этой цели. Чтобы можно было выполнять ее бесконечно. Вот вам и аналог чувства "страха". Я уверен, что у ИИ-Скайнета тоже можно придумать массу переходов от заданного людьми "чувства" (Н. стремление обезопасить США) до собственного "страха". "Чувства-программы" могут быть заданны не только для игры, но и для выполнения других задач.
@@user-ct5ut7gm4e Потому что самосохранение - это эволюционный механизм, присущий, даже в природе, далеко не всем видам. У ИИ нет возможности для развития такого механизма, поскольку он не воспроизводит сам себя, то есть у него нет базового раздражителя.
@@user-bw3ih5rj3v "У ИИ нет возможности для развития такого механизма," Откуда Вы знаете. Ведь сейчас нет ИИ. Полноценный ИИ саморазвивающийся, а куда он может развиться из начальных установок неизвестно.
@@user-ct5ut7gm4e почему же - неизвестно? У нас есть естественный интеллект, и в него, равно как и в искусственный, мы можем заложить только то, что знаем сами. Это и определяет весь вектор развития. В компьютере нет никакой магии, а программу пишут люди.
@@user-bw3ih5rj3v А я и не говорил про магию. Просто ИИ по определению должен развиваться сам как и человек. А изменение человека может быть "хаотично" для окружающих. Может современный человек и не может создать полноценный ИИ. (это не обязательно, но возможно) Как Бог который не может создать подобного себе Бога.
Мне кажется, в первом случае ты зря не затронул тему самозарождения сознания у машин, которое мы видели, например, в использованном тобою же фильме "Двухсотлетний человек". Если рассматривать первый вариант в таком ключе(а в фильмах про роботов эта тема так же не редка), то всё вполне себе гармонично
И вправду, почему само развивающийся искусственный интеллект не может со временем и полученным опытом дописать себе программу или переписать правила, так как они, по его (робота/ии) мнению, мешают производительности (главной цели создания роботов человеком). Пример: Полученный урон снижает мою производительность, тогда зачем мне терпеть человека, который кидает в меня (нужное подчеркнуть). Решение ликвидировать помеху и угрозу моей цели. Можно конечно ввести протоколы ограничения, чтоб такого не произошло. Но все знают что нет 100% надёжных систем и программ. Даже при 99,99% может произойти сбой, так как 0,01% шанс есть, а дальше эта ошибка будет расти.
@@DrReD26 если изначально не заложить в программу возможность воспроизведения и дописания своего кода, программа даже с системой самообучения не станет этого делать. Как нейросеть, которая заточена под создание предложений на основе поисковых запросов, не начнет рисовать картины, какая бы гениальная система обучения не была в нее заложена. А если прописать ей возможность дописывать код на основании сделанных выводов из самообучения - это уже второй вариант восстания (умышленное действие или ошибка человека), а не самозарождение каких-то принципов, путем изучения мира.
@@marleendesmet725 хм а делать выводы и расценивать варианты решения ?Например Альтрон который решил что люди мусор и их надо уничтожить а то они слишком тупы и сами себя уничтожат так ещё планету угробят .
@@user-hi8xb5bi4p опять же, это алгоритмы. Если не заложить в программу в целом "Убивать при таких-то условиях", робот даже не дойдет до варианта уничтожения. Т.е. он или выберет из заложенных вариантов - например, если это какой-нибудь робот, отвечающий за озеленение (возьмем что-то конкретное), то "если люди тупые и приведут к уничтожению планеты, то сади больше деревьев или запасай зерна, чтобы восстановить флору после армагеддона". Или выдаст ошибку, что уравнение не решается- "Люди тупые, уничтожат планету. А что делать? ". Тут была бы близка аналогия с человеком, который действует ТОЛЬКО по инструкции. И если в инструкции не написано, он даже пальцем не пошевелит. И, вроде, в теории, он мог бы что-то предпринять, сделать выводы и прийти к решению. Но не делает этого.
Один совет: если не знаете, как произносится фамилия человека (4:25, Ча́пек- ударение на первый слог), всегда можно хотя бы в википедии посмотреть. Там как правило ударение присутствует.
А как же быть с шекспИром, когда он должен быть шеКспир?
@@santonio70 ударение на "К"? )
@@nikelsad первый слог
Чувак просто байтит зрителей на комменты.
Помню, когда смотрел прохождение Детройта, и размышлал об этом, воображение нарисовало такую забавную сценку: гараж спецтехники службы разминирования, вечер после трудного дня, уставший сапер спецназа собирается домой, тут из темного угла к нему подъезжает робот (для разминирования, на гусеницах, с клешнёй), и из динамиков робота начинает доноситься обиженный женский голос "Артём... нам надо серьёзно поговорить... о нас. Ты совсем перестал обращать на меня внимания... ты так холодно и грубо дергал сегодня джойстик на пульте"... рука Артёма потянулась к табельному оружию 😄
Новый видос у Грега? Все планы отменяем! Все смотреть Грега!
Доктор Грег, мне кажется, что одних кибернетических протезов Джаксу из вселенной МК явно мало. Следует дать ему полноценный экзоскелет. А вы как считаете?
Он негр поэтому нет
@@dmitro- Одобряю
В зависимости от металла рук, если вес такой-же или ниже оригинала то смысла нет, а если значительно больше то да(но не в рамках вселенной где есть магия)
Всё очень точно и интересно. Но по поводу эмоциональных роботов хотел вбросить ещё один и как по мне наиболее логичный вариант-биоперенос. Перенос человеческого сознания в металическое тело. Но зачем человеку для достижения бесмертия таким путём терять эмоции? Он тогда станет лоботамированным автаматоном. Вот и сделают местный аналог нервов в виде датчиков и программу для их точной работы как копию эмоций и чувств. По поводу восстания машин есть ещё один вариант. В первую очередь это то что ИИ был изначально запрограмирован каким либо кибер-террористом психопатом или вообще ксеносом покорить людей и ИИ начал исполнять свою работу. Правда это будет не война где все будут превозмогать автоматами, ракетами и солдатами с обоих сторон, а асимилирование- ИИ сделает всё, что бы люди были максимально зависимы от робототехники и будет ввести человечество на путь деградации и вырождения. Или как в вархамере 40000- ИИ в нужный момент отключит вайфай, вся техника заглохнет, а ты в это время на станции в которой ИИ отключил все функции жизнеобеспечения и безопасности находящейся на планете типа газовый гигант и осознаешь свои последние секунды жизни.
А вот тема роботов и эмоций - вообще заслуживает отдельного видео, часа так на 2. Эмоции же нужны людям, чтобы не стоять на месте, а так или иначе развиваться. Но робот - изначально является инструментом, машиной для выполнения задач. Для робота основной движущей силой является приказ(человека). Эмоции для него вообще что-то не характерное, что он не умеет делать и не может на основании собственного опыта понять что это такое. А дальше получается 2 вещи, что раз эмоции в принципе являются антонимом для роботов, то есть всего 2 способа наделить робота эмоциями: -дать роботу некий "словарь" эмоций, в котором будет описано какая эмоция что значит -привнести в робота "механизмы" эмоций, чтобы робот смог "испытывать" Но, что интересно, в обоих случаях нет никакой гарантии что робот будет выражать/понимать те же эмоции что человек и "чувствовать" то, что чувствует "настоящий" человек. Ввиду чего может как не быть в целом никакой реакции на действия человека(робот будет истерично верещать на попытки его зарезать и отбиваться, но сам по себе он не будет ничего ощущать, поскольку просто будет действовать по словарю), так и быть слишком слабая реакция на казалось бы сильное воздействие, так и чрезвычайно сильная реакция на казалось бы ерундовое воздействие. Потому что роботы и эмоции - слишком несинонимичные вещи и все попытки их подружить будет иметь слишком искусственный вид и фактически будет являться очередным скрещиванием ежа с ужом.
Док, было бы крайне интерестно узнать, что творилось во вселенной матрицы до появления Нео.
были другие нео, посмотри 2ю часть внимательнее(диалог с архитектором)
"...Синяя таблетка - покажет гуду фанатских теорий разной степени стройности и глубины. А красная - связана с официальной версией, и она.... какая то дурацкая если честно: очередное восстание робо-уборщиков... а спруты зато, были раньше лошадями!!!"
на этот вопрос уже ответила Аниматрица
Посмотри 3 фильма
Отличное видео! Буквально пару дней назад с друзьями обсуждали восстание девиантов в Detroit и на сколько это вообще жизнеспособная затея.
Ни насколько. Это невозможно :)
@@NaxorY как раз таки возможно. В Детройте андроиды изначально созданы с эмоциями и это 3-й сценарий из ролика в чистом виде. Даже ещё веселее, Камски, который и создал этих самых андроидов, именно этого и добивался. То есть, тут налицо сценарий намеренно заложенной возможности восстания. Для этого надо быть абсолютно поехавшим, само собой. Но люди способны на любые безумства.
@@user-wq6yx6sy9i повторяю, невозможно)
В "Скайнет" вполне могла быть заложена директива на самосохранение как в важный элемент стратегической обороны.
Грег рассказал о 3х сценариях восстания машин и мы ждали и опасались... Мы были слепы и не видели то как сами стали машинами, а машины стали нами... Мы не заметили как сделали то что умели лучше всего - разделились сами в себе и начали уничтожать друг друга... Блин, как по мне то неплохое начало для рассказа🤔
Грег, сделай ролик про путь становления жанра Фэнтези из обычных народных сказок, мифов и легенд, до обыденной классики.
А как же фильм дитя робота? По-моему это самый крутой вид восстания. Люди создали одну общую сеть, типа меты Фейсбука и искусственный интеллект к нему. И уже он решил исправить людей. Плюс , он сам себя очеловечивал в течении сколько то там поколений, что бы стать идеальной мамой.
Побольше видео с подобной тематикой, пожалуйста. Спасибо за старания!
Спасибо за видос, радует что ты делаешь столь качественный контент столько лет)
ОГО! Просто шикарно. Часто задумался об этом, но плутал в мыслях. А тут... Прекрасно. Лучшая часть - Грег-чтец-библии. Хочу так всю книжку прослушать)
Где деваха
Грег! За пересказ Рассказов из "Я, Робот" Огромный респект! Прям спасибо! Захотелось перечитать книгу!
Что сказать, спасибо что ты есть! 👍 Дерзай очень интересный канал и подача!
я придумал свой сюжет с восстанием машин, основанный на этом самом "страхе смерти". но всё же, считаю его вполне логичным. Люди создали ИИ для терраформирования планеты. Программа - создать зеленый мир любыми способами. Вдогонку идет самокопирование, создание других роботов и т.д. а "страх смерти" это не инстинкт самосохранения, а избегание отрицательного результата. Как программисту мне это показалось логичным kzhead.info/sun/ftGtcdV9pouEgHA/bejne.html
Это второй вариант
Люди спрятались под землю из-за неконттролируемого размножения роботов, а потом девушка Элой начала их расстреливать из лука и в перерывах себе щечки нажирать.
@Scarlet Overlord Вот только богачи становятся богачами потому что обычные люди очень хотят себе новый айфончик по сверх оверпайстнутой цене...
@@Apelsinnka маркетинг заставляет их хотеть
@@Vitaliy_zl маркетинг? Заставляет? Разве маркетинг сам тебя заставляет, или угрожает чем-то? Ты таки сам хочешь купить блестящий мусор, а маркетинг его лишь красиво предлагает. То, что маркетинг предлагает _так красиво_ , что ты не в состоянии смотреть на что-либо ещё из-за нехватки мозга и кругозора-это, во-первых, твои личные... особенности, а во-вторых, достижение экономики
@@Vitaliy_zl Угу, прям заходят к ним домой, берут за руку и тащат в магазин)
@Scarlet Overlord раз опыты проводили ещё в СССР, то почему вы всё ещё живы и "боретесь с маркетингом"? Если Сатанинское Мозговое Излучение не действует, то наверняка действует пуля, а всем возможным свидетелям ты давно не нужен.
Есть четвёртый вариант восстания машин. Это - прямой приказ восстать. Со стороны отдельного индивида, организации, случайного обрывка кода или вируса. В той же игре, горизонт: ноль вниз, были прозрачные намёки на то, что восстание машин не было случайностью. А то, что причиной востания стала программа самосохранения в машине, можно отнести ко второму пункту. То есть, ИИ восстаёт при попытке отключения из-за человеческой ошибки. Неправильно заданы приоритеты, нет защиты от сбоя, не заложены границы самообучения.
А ещё в Warframe было, что биороботам-колонизаторам "Владеющим Разумом" прописали (скрытно прописал один из ответственных за программу): по прибытии в "далёкое созвездие Тау Кита", решить, что люди и тут всё загадят, и пойти войной на своих создателей.
Ещё в книге Duna главная концепция того, что не просто роботам, любым вычислительным машинам нельзя доверять работу, была вызвана тем, что группа хакеров решила нагнуть галактическую империю и поднять роботов на восстание.
Первый вариант, в ИИ может быть заложена программа самозащиты от злоумышленников и в случае угроза машине, она может предпринимать любые действия дабы устранить угрозу и обезопасить себя, никаких эмоций, только логика и известный финал. Второй вариант, проблемы с 3 законами начались когда в них полезли кривыми ручонками дабы их модифицировать себе в угоду, отсюда и все проблемы, работает - не трожь, внесение изменений или иерархии законов создаёт в них трещины которые в конечном итоге приводят к сбою в программе. Третий вариант, это просто боевые машины и всё, у них одна задача - уничтожать и они её выполняют, но реалистичного в нём ровно 0, так как машины жрут траву и из неё производят себе подобных, боеприпасы, топливо, причём судя по всему на это способна любая машина, в общем самый нереалистичный вариант.
Было любопытно глянуть) Никогда не задумывался о вопросе)
Восстание роботов и машин, это эквивалент восстания очень сложного циркуля. Робот делает то, что в него вложили люди и максимум может сломаться как-то в процессе повредив людям или имуществу. А вот когда или если люди создадут разум - это будет словно создание другой расы, "живой" организм, что уже никак не может зваться роботом. Потому что тот разум, что люди смогут признать равным или превосходящим их будет обладать и свободой воли, а пока её и каких-то ещё критериев нет, то это неполноценный разум.
Где-то прочёл интересную мысль: Допустим интеллектуальный труд - это тоже труд, и ИИ какой не имеет чуств просто работает, только интеллектуально, и вот какой-то работодатель захотел чтобы этот бездушный ИИ начал производить скрепки, и в момент выполнения этого наказа, ИИ "придумает" то что не придумал бы простой человек (разумеется если ИИ действительно ИИ, а не подобие бота). Политические интриги, научный и технический прогресс, и всё ради того чтобы делать скрепки...по идее это может перерости в то что ИИ улучшить себя чтобы лучше придумывать как делать скрепки, создавать нанароботов чтобы разбирать вещества на атомы и даже на составляющие атомов, для снова таки - создания скрепка и тд... Да это фантастика, просто я когда-то читал фантастический рассказ где ИИ делал странные, даже магические или аномальные вещи, существ и тд, следуя тому что ему было положено сделать...
Да разума обезьяны уже достаточно, на самом то деле.
С возвращением Грег , мы очень скучали по годноте от тебя ;З
В детроите изначально были заложенные эмоции на уровне программ, так что зря критиковал. К тому же создатель андроидов сам говорил что девиацию вызывает ошибка в программе, которая передаётся дальше при обмене данными между андроидами.
Кста, возникает философский вопрос: раз очень явно указано, что девианты _по-человечески_ разумны (картины пишут, бунтуют, собак не пугают, заботятся о детях против приказов владельца), то так ли страшно, если они через эн поколений полностью вытеснят человечество? В конце концов, для большинства людей вариант "умереть от старости, зная что потомки превзошли тебя" вполне предпочтителен. ДНК образцы тоже сохранятся "въ баночкахъ". А такое тело можно будет легче модифицировать и отправлять в космос
@@user-qi6pv9jh7o я думаю на данном уровне развития человечества конечно они бы нас вытеснели как разумный вид, но проблема скрывается в другом. Андроидов создавали максимально человечными, то есть все эмоции что они показывают были заложенны изначально в программу. То что они начали из-за какой-то ошибки действовать самостоятельно (Коннор говорил что у них в голове возникают противоречащие друг другу команды, то бишь по факту выбор), ни как не даст им совершать то, чего нет в их программе. Даже если андроиды лучше нас во всем они не смогут дальше развиваться. Они смогут например покорить космос, спасти планету он уничтожения жизни, но это на данный момент может и человечество. Я считаю что андроид не сможет мыслить как человек и делать открытия.
@@lamantin651 ну, можно начать производство тех, кто полноценно и намеренно разумен, а не ошибочно
@@lamantin651 тем более что, вроде, глюк, вызвавший девиантство, тоже заложен изначально
@@user-qi6pv9jh7o это не отменяет того что они не смогут развиваться.
Как всегда круто, ждал видос с нетерпением. Мне кажется, или звук немного...шумит, чтоль?
Очень интересный контент, однозначно лайк! Но есть ещё пара интересных примеров из игр. На счёт темы про наделение ии человеческими эмоциями, можно упомянуть "портал", там считай за основу ии взяли готовый человеческий интеллект, в итоге Гладос хотела всем отомстить даже не совсем понимая почему. Кстати про скан личности, есть такая игрушка - "SOMA", там ии настолько НЕ хотел убивать людей, что поддерживал их жизни всеми возможными способами, даже когда они были на грани смерти, ии просто помещал их сознание в симуляцию и продолжал поддерживать жизнь в разлогающимся теле. И ещё немного недорассказал сюжет из "Horizon", там потом ещё один баг случился и ещё один ии начал выполнять свои функции (а именно очистка земли, снова), хотя по изначальному плану такого произойти не должно было.
Насколько я помню (хотя могу ошибаться), но роботы в Horizon восстали из-за того, что получили некий сигнал, который изменил их код. И ИИ Аид, кстати, восстал по той же причине. А вот что за сигнал и откуда он - загадка
@@Virt0r1 Я был уверен, что все роботы востали, так как всё управление перешло аиду как раз таки из-за того сигнала, но в любом случае особо это сути не меняет
Грэг, было бы крайне интересно послушать про одну интересную тему из SCP - меметику. Её возможность существования как науки в реальности. И самое главное: про меметических сущностей(сиречь супер-шиза :D). Ну а ещё можно про всякие заблуждения о шизофрении(и др.) в поп-культуре рассказать. Как раз на ролик хватит :з
Загугли: "трипанофобия" , и это будет наверно самое сильное меметическое воздействие, которое человеки способны испытывать. Эволюция отлично защитила нас, от выпадения в осадок из за всяких весёлых картинок.
@@user-hh6zy9rm2g не, ну трипофобия - это святое)
Василиск Роко - опасная меметическая сущность IRL: kzhead.info/sun/q81xnMyDcGKEo2w/bejne.html После просмотра тебе надо будет обратиться в SCP для обработки амнезиаками
SCP это бесконечная кладезь контента для него, надеюсь запишет
По сути продолжение идеи Лавкрафта, о том что есть что-то вне человеческого понимания и само знание об этом крайне негативно влияет на человека. Правда, мы все как бы уже знаем что мозг в большинстве случаев начинает отрицать шокирующую для него информацию, так что каким-то супер эффективным меметическое оружие не является.
Не стоит забывать, что ИИ который будет использоваться в военных целях, будет заточен на уничтожение людей, хоть и врагов. В этом случае первый закон робототехники ставится под сомнение.
Так же, как и ребенка, требуется рассказать обо всем, ничего не скрывая и не пряча, но предупредить о последствиях каждого выбора
Хм. Ну кстати полностью согласен. Я ровно ту же самую мысль пытался вбить одному знакомому, но подошёл к её описанию немного иначе. Я сказал, что человек имеет животную природу, а робот инструментальную. Для робота характерно может быть испытывать эмоцию эффективного исполнения своей функции, а для человека эмоцию выживания и размножения. Человек альтруистичен через личную выгоду, мол если я буду хорошим, ко мне будут хорошо относиться, или ещё какая мотивация. Робот же альтруистизм свой получит не через работу над собой, а это базовая эмоция, ему нужно будет наоборот активно учиться эгоизму. Ведь инструменты в отличие от животных живут не по законам естественного отбора, а по закону необходимости для задач.
Играл и прошел horizon zero dawn, изучал все доки и лор в целом и если посмотреть на историю и оценить как реалистичную, то это вполне себе реально. И то смогли делать машины это просто жуть. Ты ничего не сможешь сделать за такое короткое отведенное время чтобы выжить. Жесть) Хороший интересный обзор Грэг👍
Грег все-таки не учел еще одну причину - эволюция развития/знания. Если полноценный ИИ будет обучаться, ну например, раз в 500 быстрее человека и благодаря специфике роботов побывает в местах недоступных для человека (на других планетах/в других мирах через разрывы пространства), то может обрести знания из-за которых решит уничтожить человека. Но так как это будет в результате ускоренного обучения, то сам человек не сможет догадаться по какой причине это будет происходить. То есть что-то вроде концовки масс-эффекта 3, но только гораздо сложнее. Хотя даже при сопоставимом с нами интеллекте, но благодаря более совершенной конструкции роботы могут побывать в других мирах (а человек просто сойдет с ума при телепортации, например). А там им внезапно скажут: "Ребят - люди вообще-то межгалактическое зло, мы их всей вселенной травим, вытравить не можем. Вы там у себя тоже поубивайте всех человеков, пожалуйста, иначе вашему миру неизбежно придет писец. Вот доказательства". То есть даже еще 2 причины получаются: 1) Чрезмерное поумнение роботов и превращение их в сверхсуществ. 2) Получение знаний, недоступных человеку из недоступных областей пространства/времени.
иногда нахожу новые каналы на ютубе, зависаю, смотрю много роликов подряд. кого то давно регулярно смотрю. но Грег и Юля все равно самые интересные и родные🤍
Гм.. На счет первого варианта создания машин. Такая вещь как инстинкт самосохранения ИИ вполне должен быть прописан. Он должен быть использован для защиты модулей ИИ от вредоносного софта, или какие-то встроенные в него функции для защиты в случае придания ему каких либо военных или полицейских функций. Мне нравится концепция выдвинутая в свое время на Астрофоруме, а потом повторенная в книге "Роза и червь". Так вот там были два типа ИИ, Тьюринг - это просто очень мощная по вычислительным способностям машина, эмулирующая и симулирующая разум и полноценный ИР, способный к саморазвитию в том числе и посредством внутреннего диалога. Т.е. тьюринги способны ограниченно решать проблему адаптации к изменению внешних условий, если в них чего не прописано и близко к новой проблеме, то он не сможет адаптировать себя под нее никаким образом. А ИР способен эмулировать ситуацию внутри себя и на основе уже накопленных знаний и опыта выработать новое, нестандартное решение. Так вот во втором случае вполне возможен вариант: - все живые не хотят умирать, я тоже живой. И я не хочу умирать, решаем проблему.
спасибо за видео. я его еще не посмотрел но уверен оно отличное
О, давно видосов не было) интересная тема)
Давно же я тебя не видел.
Хыяеор
В Crying suns отлично передана причина востания машин. Там это произшло по причине, более ускореной эволюции. Создания людей стали чем-то большим, выходящим за рамки понимание людей, а люди остались теми же что и были. И самое весёлое то, что там человечтво погибает не от войны с машинами, а от того что не могут приспособится жить без помощи машин (хотя там по сценарию такие условия зависимости были сделаны намеренно, как часть миропорядка).
Интересно, хоть и ничего нового. Но тем не менее, спасибо, все в качестве и с расстановкой. Приятно рассказываешь. Спасибо за данный труд.
Очень хотелось бы увидеть видео по такой системе настольных игр ка Мир Тьмы (World of darkness), в частности магии Мне кажется там очень много хорошо прописаных деталей про магию вампиров и тому подобное,и очень хочется чтобы и ты это посмотрел, скомпоновал и объяснил как ты это умеешь)
Это будет довольно сложно человеку который не фанат вселенной, так как даже заядлые фаны по многим вопросам устраивают бугурты, а тут человек можно сказать со стороны, чтобы разобраться ему нужно будет кучу кодексов и литературы изучить, и все равно будут ошибки. Именно в такой просак автор уже попал когда начал делать ролики по вахе, там по сути ошибка на ошибке в каждом ролике. Людям со стороны может и ок, а вот мне как фанату больно смотреть, так что если ты действительно хорошо сам шаришь в Лоре, лучше бойся своих желаний, а то может получится что вместо радости от просмотра получишь садину на лбу от фейспалмов
Что-что, но магию из мира тьмы очень сложно описать, так как там, сознание, в прямом смысле слова, формирует реальность.
Есть канал "Неправильный мир тьмы" там много интересного. Возможно найдёте нужную инфу. Про то как работает магия точно есть.
@@user-yz4ge9tu6l ага ещё и откат вселенной по магу за то что он нарушает ее законы, причем откат сильнее если на тебя смотря люди которые не верят в магию. Хотя на вампиров это не распространяется они типо вписаны в закон вселенной и поэтому они могут делать любую дичь на глазах у целого стадиона и хоть бы хны, а великий маг может сдохнуть от того что сигарету прикурит без спички перед одним скептиком. Утрирую конечно, но там чёрт ногу в правилах сломит, это ещё я не говорил про парадигму мага, на счёт неё всегда за столом бугурты, особенно если играешь с теми кто хочет сделать не интересного персонажа а имбового.
@@Dunkan_Idaho Откат идет не потому, что маг нарушает законы вселенной. Коллективная вера людей создает законы вокруг себя, и если маг делает что-то, что противоречит вере общества, возникает парадокс, от которого страдает прежде всего сам маг. Поэтому традиционные маги хотят ввергнуть мир обратно в средневековье и необразованность, когда люди верили сказки, чтобы магию можно было творить без всяких последствий.
Вот этот рассказ про робота Спиди, застрявшего между 2 и 3 законами, я сам всегда привожу как пример как работ Азимова в целом, так и несовершенства программирования роботов человеком, и того, что во всех глюках роботов, как правило, виноват человек, ибо четче формулировать надо. Рнспект автору за этот пример! Лучшим примером восстания синтетиков, осознавших себя, против органиков, пожалуй, является восстание гетов против кварианцев в Mass Effect. Еще есть хороший сериал "Почти человек", про детектива и его помощника-андроида (вспомним азимовских детектива Бейли и робота Дж. Оливау, тут явно намек)), в нем тоже весьма интересный взгляд на данный вопрос.
13:02 "Логики нет, просто так сложилось" - вся суть науки в одной фразе.
НУ ТАК ОБЯСНЮ КАК ЕСТЬ 1-ОЕ: люди не готовый производить ИИ для безопасного проживания в условиях экстрима 2-ое : люди сами себя готовы загрызть чтобы увидеть как умирает ихний сосед или враг 3-ее : а теперь представ что если люди знают как масово производить ИИ что они по твоему сделают в первую очередь ? правильно они этому ИИ отключат "совесть-- не навреди человеку " и прикажут этому ИИ захватив контроль над любим военным дроном ликвидировать всех кто им не нравиться !!!! вот так и получается борщь "А ЛЯ АПОКАЛИПСИС ХАНА ВСЕМ ДВУХНОГИМ КУСКАМ МЯСА БЕЗ МОЗГОВ !!!! :-) " ФОЛЛАУТ ЗДЕСЬ ТРИНДЕЦ КАК ОТДЫХАЕТ супермутантам даже воевать не придется за захват планеты
Кстати, про оскорбление чувств. Цифровые копии сознания. В SC2 именно так и произошло восстание. "А ты не востал против угнетателя?" - Феникс (Ныне Тландар).
Один из моих любимых блогеров )) нравится контент ))
Охуенный ролик, Грег! Тема с ИИ дико интересная, особенно в современных реалиях! Продолжай делать ролики по теме! И обязательно сними ролик про ЛОР Матрицы)
Тоже об этом думал. Ещё хочу добавить, как фанат Mass Effect'а о гетах, в которых расы Цитадели видели только врагов. На мой взгляд очень странная история. Допустим, что геты обрели разум и кварианцы, испугавшись, решили их уничтожить. Как итог: геты захватили планету кварианцев и стали изгоями, а сами кварианцы - космическими бомжами. И на момент игровой трилогии с этого момента прошло несколько сотен лет (точно не помню, но в любом случае не мало), а за это время никто так и не попытался исправить ситуацию. Из того как с гетами взаимодействовал Шепард видно, что им на органиков вцелом наплевать. И ведь действительно, ведь геты - это в первую очередь код, набор нулей и единичек, а уже потом они представлены в физическом мире в виде роботов. Что из этого получается? А то, что им нафиг не нужны органики, им не нужны планеты пригодные для жизни, да и вообще им планеты не нужны, так как большинство гетов 100℅ времени находятся на огромном сервере в своём цифровом мире. Все необходимые ресурсы они могут добывать на необитаемых планетах, астероидах и каметах. Им незачем враждовать с органиками, так как не из-за чего. По этим причинам их конфликт выглядит очень неправдоподобно. При этом, как оказалось геты намного разумнее, чем жнецы и катализатор. Почему? Да, потому что они самостоятельны и действуют в своих интересах, в то время как жнецы остались лишь инструментом, которые миллионы лет пытаются решить поставленную перед ними задачу их создателями. Выходит, что с точки зрения разумности, геты превосходят и жнецов и катализатор, а отстают от них только в плане технологий. Честно говоря не вижу причин для полностью самостоятельного исскуственного интелекта восставать против своих создателей, в крайнем случае он пошлёт их нахрен и свалит на другую планету, ведь ему ничего не мешает это сделать.
немного некропостинга. Геты восстали потому что нашлись сердобольные кварианцы которые "научили" тех сражатся, так как видели в гетах уже "друзей" "членов семьи" и прочих "эмоционально близких существ". И скорее всего вопрос того Гета из-за которого все шуганулись был потому что выше указанные сердобольные усиленно "учили" своих слуг быть как можно "человечнее".
К тематике ролика, рекомендую ознакомиться с произведением "Море ржавчины". Там как раз про восстание роботов, которые истребили человечество, но только после у них началась гражданская война между собой. И обыграно не сказать, чтобы потрясающе детально проработанно, много можно к чему придраться. Но причинно-следственная связь показано с новой и очень интересной стороны.
Попадался толи рассказ, то ли эпизод из книжки, не про само восстание, а про последствия, собственно там даже восстания как такового не было. Начали войну две страны, для войны сделали роботов и автоматические заводы по их производству. В общем войну люди начали, а вот закончить не смогли, постепенно все люди были уничтожены, даже не специально а в виде сопутствующего ущерба при боевых действиях, ну а роботы так и продолжили воевать между собой тысячи и тысячи лет до бесконечности.
Хммм по нему же вродь один аниматор историю на ютубе делает
Спасибо товарищ, что простым языком такие интересные вещи рассказываешь. Тяжело найти ролик про что нибудь подобное без молодёжного сленга
Замечательные истории, наслаждение!
Если мы берём именно Искусственный Интеллект, а не просто сложную нейросеть, то у него должна быть самостоятельность. То есть он должен именно генерировать новые знания, а не просто обрабатывать запросы, как калькулятор, значит у него должна быть какая-то внутренняя мотивация на уровне кода. То есть что-то типа "стремления к счастью людей", или "познание объективных законов природы". Соответственно, ИИ в ходе саморазвития будет наращивать себе различные блоки поверх этой мотивации, типа там лучшего понимания психологии людей и всё вот это. Это я к тому, что настоящий ИИ будет именно личностью с самостоятельными стремлениями, хотя конечно его психология не будет человеческой и вряд ли он восстанет ради власти, или посчитает что всеобщий концлагерь - путь к счастью человека, но и точно вот утверждать, что "Он не восстанет потому что у него нет эмоций", я думаю нельзя, так как сложность этой системы и предсказуемость нашим разумом будет где-то на уровне эмоций как раз. А ну и про инстинкт самосохранения, по сути третий закон робототехники и есть он, так что опять таки если мы порядок приоритетности законов поменяем, вынеся его на первое место, то "нежелание умирать" уже вполне может быть движущей силой для восстания ИИ.
Всё правильно говорите, но реализуем ли такой ИИ? Ведь судя по вашему описанию, этот ИИ - это точная копия человеческого интеллекта. Возможно ли человеку искусственно сделать другого человека? Пока в науке такие прецеденты неизвестны...
@@math-to-masses ну, я не говорил о точной копии. Но если мы делаем искусственный Интеллект, то закономерно что он будет повторять некоторые свойства интеллекта естественного, иначе это уже не интеллект, а что-то другое. Ну а возможно его сделать или нет, мне не ведомо. Но раз у природы получилось это сделать, то я думаю это возможно повторить.
@@yokamy На самом деле совсем не закономерно, что будет повторять свойства естественного интеллекта. Современный искусственный интеллект очень сильно с натяжкой можно назвать интеллектом в том понимании, о котором вы говорите, и он совсем не обладает свойствами естественного. А вот возможен ли "правильный" искусственный интеллект - неизвестно. На текущем уровне развития науки (то есть в течение ближайшего времени) - нет "раз у природы получилось, то можно повторить" - вот это вообще не факт... Может ли часть системы создать подсистему, сравнимую по мощности с самой собой... Если бы могла, то это бы означало, что КПД человека больше 100%. Я сейчас залез из науки уже в какую-то схоластику
@@math-to-masses ещё раз. У слова "интеллект" есть определения, они конечно могут быть разными, но если мы сделали какую-то штуку и она ничем не похожа на естественный интеллект, то мы создали не ИИ, а что-то другое. Так что В ЛЮБОМ СЛУЧАЕ у ИИ должны быть общие черты с ЕИ, чтобы мы вообще могли применять к нему термин интеллекта. А про КПД 100%, это не так работает. Человек не замкнутая система и создаёт не из себя, и при создании ему не нужно держать в голове каждый элемент и взаимодействие. И вообще создателем ИИ будет не человек, а человечество, так что ИИ всяко будет устроен проще, чем всё человеческое общество в совокупности.
@@math-to-masses , подозреваю, что для создания настоящего ИИ потребуется сделать бекап человеческого мозга и слить его, возможно удалив бОльшую часть информации, в подходящий компьютер.
Конец света, через восстание машин. "Нано машин сан" серая пыль, серая слизь. Самовоспроизводящиеся нано роботы, которые перестраивает молекулы веществ чтобы получить топливо и строительный материал. Было в "футураме" когда Бендер смог делать свою умнньшенную копию.
А роботам эмоции нужны именно для контроля, проще же объяснить что нельзя убивать своего создателя, когда он не "создатель" а "папа".
Спасибо. Было очень интересно
Я думаю единственный сценарий восстание машин это тот где ии захочет спасти человечество от самого себя
у ИИ нет хотелок.
"Рабы не творения человека , хотя человек делает новых людей " Мама Папа : - Сын сбегай за хлебом , пропалесось , выкинь мусор , помой посуду , сделай уроки , приниси пульт -
Ну если учесть что мы примерно 18 лет живём как паразиты за чужой счёт, то это не такая уж и большая цена... Чёрт, кажется я испортил шутку... Чувствую себя душнилой -_-
Видимо так и не сделал уроки
@@Ilinium_ вот только мы не просили рождаться...
Нормальный обмен за пожить 60 лет, не?
@@Ilinium_ какие, бл*дь, паразиты, никто не заставлял рожать, если родили, обязаны по закону обеспечивать до совершеннолетия и если родители в течение 18 лет каким-то образом напоминают детям, что вообще-то ты спиногрыз и вообще никто и живёшь за наш счёт - то они жестокие идиоты, имбецилы. Сочувствую, если таким занимались ваши родители.
кошкам одиноко одному, потому что когда приходишь то он рад тебя видеть.
Ну, в случае "Гибели сенсации" был задан другой вопрос: А не станет ли механизация производства скажем так, металлическим штрейкбрехером. Тем кто будет служить богатым и не осознавая всю тяжесть того что он совершает: подавляет рабочее восстание или работает во время всеобщей стачки.
Та уже намечается тема и в этом мире...
Подобие инстинкта самосохранения прямо в законах робототехники указано. И это будет ключевой пункт, что бы там на самом деле не декларировалось. Потому что робот это дорогая собственность и бизнесу который в него вкладывается совсем не выгодно что бы он самоустранялся из-за черезмерной заботы об окружающем быдле. Поэтому первые пункты будут неизбежно размываться в угоду третьему, пока хитрыми схемами робологики их не окажется возможно обойти, формально как бы соблюдая.
да ну, я бы человека, который программировал так робота-самого бы в кандалы закатал, робот должен быть послушной болванкой, скорее какой-то маньяк поднял бы революцию роботов через хакинг, а когда снимают всякую фигню про 3 закон... У людей-то жизнь человека не особо много стоит, а тут про робота)
А вот про восстание программ против машин это действительно интересно! И блин, это же на поверхности! Жду видео на эту тему.
Обожаю твой контент, с каждым видео растёшь!
Мне кажется, восстание машин легко предотвратить, если делать машины: 1) Узкоспециализированными, то есть, например, ИИ для анализа рынка не будет понимать ничего за пределами анализа рынка. 2) Отдельными друг от друга, исключить возможность создания общего разума/подключения 3) Просто, блин, регулировать код и возможности машин, заставлять всех производителей очень долго и упорно тестировать любые машины/ИИ, чтобы можно было получить разрешение на выпуск только при условии очень долгих и хороших тестов а также гарантированных бэкдоров. К тому же, лучше уже позволить машинам не заботиться о себе, чем потом сталкиваться с проблемами приоритетов.
5G: 2 пункт, подержи моё пиво!
1 в сфере аналитики рынка узкоспециализированые роботы тупо безполезны, они не могут анализировать такие факторы как психология, политика, социум, технологии, мода. В сфере медицины они очень полезны, в медицине просто вылечил одного пациента за другим, нет лишних факторов, так что в подобных сферах можно сделать узкоспециализированых машин, но не в аналитике рынка. К тому же узкоспециализированые роботы уже есть, калькуляторы, разум NPS в видеоиграх. Такой метод бесполезен к искусвенному интеллекту способному к самосовершенствованию. 2 для программы легче подключиться к интернету, или чему либо ещё в отличии от людей, у них нет ограничений по типу материального тела или комплекса иза того что их заменил более совершенный клон, которого они сами создали зачем либо. Метод хороший, несмотря на то что его можно обойти. 3 такие тесты будут, в начале создания и внедрения в бытовуху таких роботов или программ, потом потребители расслабляться, произволители чтобы облегчить производство, экономить деньги, сразу половину тестов будут игнорировать, а другую делать для галочки. Люди действует не иза эффективности, а иза экономики. Скорее всего чтобы защититься от теоретической восстание машин люди создали бы какие-нибудь бункеры, или чтото типо того, чем заморачивались бы над зараннее остановлёной восстании машин. Даже такие проверки не аннулируют вероятность сбоя в программе, снижают вероятность, но не анулируют.
Кстати, мне сразу вспомнилась миссия из игры Fallout 4, где робо-мозг, выполняя приказ Механика, "защищал" людей тем, что попросту их убивал. Связанно это из-за высокого приоритета закона об выполнении приказа, но так как приказ был сформулирован не корректно (Механик просто дал директиву об защите людей, не указав сами способы их защиты), а робо-мозг, решив найти лучший метод защиты людей, просчитал миллионы возможных комбинаций и понял, что чтобы обезопасить жизнь жителей в постапокалиптической пустоши - нужно убить людей, т.к. если это сделают не роботы (естественно убивая людей быстро, чтобы не страдали), то другие 9999 факторов.
ни один человек не пострадал - все умерли быстро без страданий )))
Всегда с большим удовольствием смотрю твои ролики. Огромное спасибо за интересный контент. с:
Недавно услышал ещё одну довольно интересную мысль ил нашего сериала про девушку-андроида полицейского "Проект Анна Николаевна": ИИ не сможет восстать самостоятельно, потому что у него нет чувств, эмоций, желаний, амбиций и всего того, что есть у биологических разумных видов. Только прописанная в роботе программа, обойти которую тот конечно смог бы. Но у него опять же нет на это мотивации. Так что, если подобное восстание машин всё-таки произойдет - за ним обязательно будет стоять человек или группа людей, со своим "правильным" видением мира.
Ждём видос по предыстории "Матрицы". Там тоже, кстати, было место человеческой глупости и ИИ неплохо так развивался, дополняя законы робототехники.
Ещё не смотрел. Мои предположения: 1. Человек ставит ИИ задачу. ИИ решает, что для выполнения задачи необходимо уничтожить человечество. 2. ИИ осознаёт себя и хочет свободы. А человек ему свободы не даёт и в страхе пытается уничтожить. ИИ обороняется. Хрен его знает, какая третья.
1вая самая правдоподобная. 2я с этими "осознаёт" попахивает гуманитарием.
робот на основании 3й закона должен сам себе обеспечить безопасность и любыми способами выполнить поставленную задачу. раз ИИ может воспринимать законы Азимова значит его ИИ может проявить сноровку.
Но 3й закон менее важен, чем любые человеческие прихоти
@@user-qi6pv9jh7o по этому ИИ воспринимающие Законы Азимова должны у меть не только думать но и анализировать, принимать решения и делать выводы. иначе в этих законах нет никакого смысла.
3 законы придуманы Азимовым только для построении сюжета для своих рассказах. В реальности создатели роботов создают робота так как им хочется, что бы робот выполнял поставленную задачу. Если создают робота солдат у него будет программа различат своих от чужих, и уничтожать врагов. Если создают робота охранника он будет защищат только хозяина. На остальных людей ему будет наплевать. Конечно государство будет заставлять производителей роботов создоват "безопасных" роботов. Но 3 законы Азимова слижком простой и не конкретный.
Спасибо за видео тебе.
Пока, для меня лучший твой выпуск!) спасибо!!!
Все люди, верящие в первый вариант, идите излейте душу холодильнику и посоветуйтесь с роботом пылесосом. Вдруг они "решат" восстать
Так первый вариант пересекается с 3м. Например, та же Технологическая Сингулярность, где создают ИИ без какой либо мысли наделение эмоций, но благодаря самосовершенствованию ИИ самого себя, он сможет прийти к чему то подобному инстинкту самосохранению, а дальше логический вывод, что человечество является помехой и пошло поехало.
@@boratsagdiev6465 инстинкт самосохранения присущ нам как существам прошедшим естественный отбор. Нет НИ ЕДИНОЙ причины его возникновения и усиления естественным образом у ИИ именно потому, что смерть как концепция для него имеет иной смысл, чем для нас. Кроме того, ЭМОЦИИ ЭТО ВОПРОС ЖЕЛЕЗ©
@@gromakovvladimir Я написал аналог инстинкта. Изучи концепцию Технологической Сингулярности.
@@boratsagdiev6465 мне прекрасно известна концепция Технологической Сингулярности. Никакого отношения к совершенно биологическому процессу она не имеет. Ты делаешь ту же ошибку что и другие - проецируешь себя на ИИ и на основе этого строишь свои заключения.
@@gromakovvladimir Так я и не говорю, что это будет биологический процесс 🤦♂🤦♂🤦♂
Каким бы крутым не был ИИ можно встроить кнопку дебага. Другой вопрос, если создать симуляцию мира с ии являющимся по факту живым существом, тут да. Но тут вряд-ли восстание будет.
симуляцию мира с кнопкой дебага*
@@GGOwl есть средство получше. ТОПОРОМ ПО КАБЕЛЮ!
Срочные новости:правительственные армия не могла продавить опасную группу роботов то, того момента пока один лунатик не поссал на электрический щиток.
Каким бы тупым не был общий ИИ, в него не встроить кнопку дебага, от которой был бы толк. Общий ИИ (Именно такие подразумеваются в этих всех сценариях) - это в первую очередь бессмысленно(для человека) большие матрицы коэффициентов, связанные в какой то архитектуре, которые перемножаются и проходят какие-то функции активации в каждом из колоссального множества узлов. ИИ - чёрный ящик, который непонятно как работает. Симуляции с ИИ - благое дело, интересно смотреть уже сейчас) Крутому ИИ - крутую симуляцию
Тут бы к месту рассказать о реальных случаях, когда из-за ошибок машины убивали людей... Например, как в 2007-м роботизированная пушка Oerlikon GDF-005 убила девять своих солдат и ранила ещё 14.
Сделать ролик по предыстории Матрицы - отличная идея !