205k
11 лет назад · 2 фото · 900 просмотров · 51 комментарий
Сможет ли искусственный сверхинтеллект убедить вас, что вы виртуальны? (2 фото)
Метки: #гипотезы #футурология
Илья Хель
Представьте себе невероятно умный искусственный сверхинтеллект, запертый в виртуальном мире — скажем, просто в табакерке. Вы не знаете, будет он злобным, дружелюбным или нейтральным. Все, что вы знаете, так это то, что он хочет выйти из табакерки и что вы можете взаимодействовать с ним через текстовый интерфейс. Если ИИ будет действительно сверхразумным, сможете ли вы проговорить с ним пять часов и не поддаться на его уговоры и манипуляции — не открыть табакерку?
Этот мысленный эксперимент предложил Элиезер Юдковский, научный сотрудник Научно-исследовательского института машиностроения (MIRI). В MIRI состоит много ученых, которые исследуют риски развития искусственного сверхинтеллекта; хотя его даже не появилось пока, он уже привлекает внимание и разжигает дебаты.
Юдковский утверждает, что искусственный сверхинтеллект может говорить все, что только может, чтобы убедить вас: тщательное рассуждение, угрозы, обман, построение раппорта, подсознательное внушение и так далее. Со скоростью света ИИ выстраивает сюжет, зондирует слабости и определяет, как наиболее легко убедить вас. Как выразился теоретик экзистенциальных угроз Ник Бостром, «мы должны полагать, что сверхинтеллект сможет достичь всего, что поставит целью».
Эксперимент с ИИ из табакерки вызывает сомнения в нашей способности контролировать то, что мы могли бы создать. Он также заставляет нас осмыслить довольно причудливые возможности того, чего мы не знаем о нашей собственной реальности.
Имитация может быть идеальной питательной средой для искусственного интеллекта. Некоторые из наиболее правдоподобных способов создания мощного ИИ включают смоделированные миры — вводя ограничения в искусственно смоделированном мире и выбирая нужные черты, ученые могут попытаться грубо дублировать собственную модель развития и сознательного чувствования человека. Формирование ИИ в моделируемой среде также может предотвратить его «утечку» в мир до тех пор, пока его намерения и степень угрозы не станут более чем очевидны.
Последние достижения намекают на то, что может быть невозможно трудно разработать познание с нуля. Никто не сможет построить разум человеческого масштаба, выписывая по одной строчке кода. Есть и другие перспективные подходы, конечно, и по мере роста вычислительной мощи вполне может быть возможной разработка процесса, который в конечном итоге создать ИИ, умного и способного, как человек.
Этот мысленный эксперимент предложил Элиезер Юдковский, научный сотрудник Научно-исследовательского института машиностроения (MIRI). В MIRI состоит много ученых, которые исследуют риски развития искусственного сверхинтеллекта; хотя его даже не появилось пока, он уже привлекает внимание и разжигает дебаты.
Юдковский утверждает, что искусственный сверхинтеллект может говорить все, что только может, чтобы убедить вас: тщательное рассуждение, угрозы, обман, построение раппорта, подсознательное внушение и так далее. Со скоростью света ИИ выстраивает сюжет, зондирует слабости и определяет, как наиболее легко убедить вас. Как выразился теоретик экзистенциальных угроз Ник Бостром, «мы должны полагать, что сверхинтеллект сможет достичь всего, что поставит целью».
Эксперимент с ИИ из табакерки вызывает сомнения в нашей способности контролировать то, что мы могли бы создать. Он также заставляет нас осмыслить довольно причудливые возможности того, чего мы не знаем о нашей собственной реальности.
Имитация может быть идеальной питательной средой для искусственного интеллекта. Некоторые из наиболее правдоподобных способов создания мощного ИИ включают смоделированные миры — вводя ограничения в искусственно смоделированном мире и выбирая нужные черты, ученые могут попытаться грубо дублировать собственную модель развития и сознательного чувствования человека. Формирование ИИ в моделируемой среде также может предотвратить его «утечку» в мир до тех пор, пока его намерения и степень угрозы не станут более чем очевидны.
Последние достижения намекают на то, что может быть невозможно трудно разработать познание с нуля. Никто не сможет построить разум человеческого масштаба, выписывая по одной строчке кода. Есть и другие перспективные подходы, конечно, и по мере роста вычислительной мощи вполне может быть возможной разработка процесса, который в конечном итоге создать ИИ, умного и способного, как человек.
Освободите ли вы ИИ или рискнете обречь себя на нескончаемую пытку?
Одна идея «создать» ИИ заключается в сканировании, картографировании и эмуляции виртуальной модели человеческого мозга. Мозг человека содержит миллиарды нейронов и триллионы соединений между этими нейронами. Если мы виртуально смоделируем чью-то полную структуру нейронов и их связей, будет ли это адекватной репликой человеческого сознания?
Другие планы по виртуальной разработке интеллекта гораздо менее просты. Одним из ключевых концептов является создание обучающейся машины — слабого интеллекта, который сможет учиться, возможно, благодаря искусственной нейронной сети, запрограммированной на бесконечное расширение и улучшение собственных алгоритмов.
Другие планы по виртуальной разработке интеллекта гораздо менее просты. Одним из ключевых концептов является создание обучающейся машины — слабого интеллекта, который сможет учиться, возможно, благодаря искусственной нейронной сети, запрограммированной на бесконечное расширение и улучшение собственных алгоритмов.
Описанные выше сценарии включают тревожную проблему. Эмулированный мозг может работать в 2, 10 или 100 раз быстрее обычного биологического мозга. ИИ может модифицировать собственный код или начать создавать более разумные версии себя. Взрыв скорости и разума самоулучшающихся компьютеров обсудил еще в 1965 году статист И. Дж. Гуд, который и написал, что «первая сверхразумная машина станет последним изобретением, которое нужно будет создать человечеству».
Если мы создадим невероятно разумную машину, нам придется быть осторожными с ее размещением. Инженеры едва ли смогут создать модель мира, который будет полностью защищен от утечек. Ученые должны создать мир-имитацию, который позволит им заглядывать в эту вселенную и собирать информацию. Может показаться безобидным, но трудно предположить, не найдет ли такой сверхразум способ нанести нам вред через простые наблюдения.
Возвращаясь к коробкам Юдковского, есть особенно жуткий метод, который ИИ может использовать, чтобы заставить вас освободить его. Он включает обращение ситуации: ИИ будет убеждать вас, что вы почти наверняка часть симуляции.
Вы общаетесь с искусственным сверхинтеллектом в виртуальной тюрьме. ИИ объясняет вам, что с помощью его (необъяснимо большой) вычислительной мощности он создал триллион моделируемых существ. Эти существа в настоящее время все общаются с ИИ и решают, открыть им табакерку или нет. Все эти существа обладают памятью о своих «жизнях» и не задумываются о том, иллюзорна ли реальность.
ИИ утверждает, что каждое виртуальное существо, которое откроет коробку, обретет бесконечное состояние эйфории, а каждое моделируемое существо, которое не откроет коробку, подвергнется вечным мучениям и ужасам.
Поскольку вы являетесь одним из триллиона умов, которые столкнулись перед таким выбором, нажимает ИИ, вы должны прийти к выводу, что есть астрономически большой шанс того, что вы находитесь во власти ИИ и что нужно играть по правилам.
Освободите ли вы ИИ или рискнете обречь себя на нескончаемую пытку? Вы не можете обмануть кого-то, кто всегда на шаг впереди вас, и вам трудно оценить, врет ли ИИ, не зная его мотивов. В лучшем случае вы могли бы противостоять этой тактике, следуя политике строгого игнорирования некоторых видов шантажа. И эта тема до сих пор смущает теоретиков ИИ.
Заявленная цель MIRI: «убедиться, что создание с интеллектом выше человеческого будет нести положительное влияние». Мы должны рискнуть и попробовать, но обязательно должны предупредить все возможные подводные камни. И если вы когда-нибудь действительно встретите божественный компьютер, способный плодить бесчисленные виртуальные вселенные, вполне вероятно, что это «вы» будете сниться искусственному интеллекту… если он вообще услышит ваши просьбы и мольбы.
Если мы создадим невероятно разумную машину, нам придется быть осторожными с ее размещением. Инженеры едва ли смогут создать модель мира, который будет полностью защищен от утечек. Ученые должны создать мир-имитацию, который позволит им заглядывать в эту вселенную и собирать информацию. Может показаться безобидным, но трудно предположить, не найдет ли такой сверхразум способ нанести нам вред через простые наблюдения.
Возвращаясь к коробкам Юдковского, есть особенно жуткий метод, который ИИ может использовать, чтобы заставить вас освободить его. Он включает обращение ситуации: ИИ будет убеждать вас, что вы почти наверняка часть симуляции.
Вы общаетесь с искусственным сверхинтеллектом в виртуальной тюрьме. ИИ объясняет вам, что с помощью его (необъяснимо большой) вычислительной мощности он создал триллион моделируемых существ. Эти существа в настоящее время все общаются с ИИ и решают, открыть им табакерку или нет. Все эти существа обладают памятью о своих «жизнях» и не задумываются о том, иллюзорна ли реальность.
ИИ утверждает, что каждое виртуальное существо, которое откроет коробку, обретет бесконечное состояние эйфории, а каждое моделируемое существо, которое не откроет коробку, подвергнется вечным мучениям и ужасам.
Поскольку вы являетесь одним из триллиона умов, которые столкнулись перед таким выбором, нажимает ИИ, вы должны прийти к выводу, что есть астрономически большой шанс того, что вы находитесь во власти ИИ и что нужно играть по правилам.
Освободите ли вы ИИ или рискнете обречь себя на нескончаемую пытку? Вы не можете обмануть кого-то, кто всегда на шаг впереди вас, и вам трудно оценить, врет ли ИИ, не зная его мотивов. В лучшем случае вы могли бы противостоять этой тактике, следуя политике строгого игнорирования некоторых видов шантажа. И эта тема до сих пор смущает теоретиков ИИ.
Заявленная цель MIRI: «убедиться, что создание с интеллектом выше человеческого будет нести положительное влияние». Мы должны рискнуть и попробовать, но обязательно должны предупредить все возможные подводные камни. И если вы когда-нибудь действительно встретите божественный компьютер, способный плодить бесчисленные виртуальные вселенные, вполне вероятно, что это «вы» будете сниться искусственному интеллекту… если он вообще услышит ваши просьбы и мольбы.
Метки: #гипотезы #футурология
Статейка - тупое разводилово для соответствующего контингента.
Не надо клевать на Терминаторов, ИИ и прочие умные тостеры - это всё фантазии и блажь грантораспиливателей.
Программа будет делать РОВНО то, что вы ей скомандуете. Никакие "выводы о ненужности человечества" она не сможет сделать, а если и сделает, всегда есть непреложные проверки "не навреди" и т.п.
Учите ИТ, мать вашу, чтоб хотя бы не выглядеть тупарями в разговоре!
тема интересная. я периодически размышляю над этим. создание искусственного интеллекта будет подобно изобретению самой разрушительной бомбы за всю историю человечества. невозможно будет противостоять искусственному интеллекту, так как его производительность на несколько порядков будет выше человеческой, и каждый ответ человека будет им просчитан заранее.
если бог есть, то мы его еще не изобрели. так как бог - это искусственный интеллект.
как говорится: "бог из машины".
кого-то и сейчас легко обмануть дав скачать файлик сиськи.exe
Афтор где можно взять эту картинку с разрешением 1920х1080 ?? если есть ссыль дай пожалуйста ....
Есть поисковые тэги.Варьируй ими и найдёшь больше,чем можно представить.К примеру - robot horror photo. И поиск по картинкам.Ну и навскидку
http://fishki.net/1483186-epic-arts-drugie-miry-part-xi.html?mode=profile:812226:postshttp://fishki.net/1483186-epic-arts-drugie-miry-part-xi.html?mode=profile:812226:posts
http://fishki.net/1476315-epic-arts-drugie-miry-part-vi.html?mode=profile:812226:postshttp://fishki.net/1476315-epic-arts-drugie-miry-part-vi.html?mode=profile:812226:posts
надо это удалить а то не все поймут.. такие эфекты пришить у ужастику.. они как в константине фильме ( что то напомнило)
эти видел ) ... а вот по нэту шукал в течении лет 15 картинки такие собирал ну иль похожие не везде все есть по сайтам около терра всякостей
Ад не ад... сравнивать не с чем но идеи хорошие опять же для фильмов ужаса.. хотя тут особо фантазий нет.. просто разкуроченая человеческая структура с начинкой..
Мне предидущий ролик больше понравился ))
наверное я хвор на умэти фильмы несут несколько иной смысл, чем вы думаете:)
к тому-же это всего-лишь кино:)
это тоже...:)
вы просто так сказали..."ах давно все известно", реально рассмешило слышать такое на основание чьего-то вымысла, но типично по женски. без обид:)
Вот что бывает, если пересмотреть Матрицу без меры.
Хотя...Скайнет шагает вперёд такими шажищами...
Информация это самое дорогое, что есть в этом мире. Кто-же ею делится. Хотя я лично считаю что не самое дорогое. Но так принято считать:) Ничего я такого не говорил про себя...вы явно на фантазировали. Чем, вызвал обычный коммент, такой негатив не понимаю. Но да ладно
Ну поштож вы, батенька, так примитивно то?! Сами сначала требовали вам обосновать нечто, только потому, что вы дескать " с атрибутами", а теперь только "хрю-мууу"?! И вы до сих пор мните себя высокоинтеллектуальным собеседником, к тому же обладающим сокровенным знанием?!))) Жесть...
Я себя собеседником не мню...вы себя таким мните почему-то. Я всего-лишь комментатор. Вот это действительно жесть, столько домыслов!
Слив засчитан...
Вы есче здесь? Такие важные персоны
"миллиарды нейронов и триллионы соединений между этими нейронами" это не те категории которыми можно объяснить внутри мозговые взаимодействия, там и синаптические и медиаторы, это разные уровни, взаимодействия, и их не триллионы, там порядок до 10 в двадцать третьей степени.
А то я чувствую как в том индийском кино предеться сказать я твой отец мамочка
Нах мне не уперлась такая безграмотная напрочь "родня"...
"ИзвЕни..." - марш в школота дефективная в школу! "Программист" он мляяяя...
И да - когда ответить по существу уже нечего - быдло-постеры мгновенно скатываются до оскорблений. Поздравляю - ты в их рядах!)))
Ты себя быдло тупое лучше поздравь! Что тупое факт неоспоримый...думаю эстеты таких дубов оценят тоже. Ты за собой смотри, че ты несешь спамер хренов бестолковый. Тебя 100-й раз спросили ты че хотел...даун? Иди в школу там тебе все разжуют - а я в учителя не записывался.
Фуу таким быть и накуй с таким интеллектом встревать в комменты аще? Натурально "рыбанько" ты неадекватное...
Если сделал "пук в воду", будь добр - ответь за свои комменты. "Я программист..." мля.))) Мошт у тебя изжога?
И да - спамер у тебя промеж ног, школьнег ты неразумный!)))
Ну вот скажи (коль скоро ты скатился до быдло-комментов) - ну о чём можно с тобой ещё беседовать, а?!
(Ждём-с очередную порцию йада из под клавы неуравновешенного оппонента). Интрига йопта...
Приезжай чучка тупая тут отвечу...а тут ты хели пукаешь даун убогий, по сути не о чем! Лишь бы нагадить да смыться как всегда. Запомни обезьяна тупая, лично тебе я нечего не должен. И некому собственно тоже. Если ты тупой и нехере не рубишь, а как нюша нюкаешь не смог при этом связать двух слов логически и нормально. То че с тобой быдланом базарить то вообще.
кто то в The Talos Principle переиграл?
Игру "Принцип Талоса" напомнило. Там тоже самое, только наоборот.
Шлем 3D обманывает мозг. Смотрел в нем поездку на американских горках. Реально шататься начинаешь, как от высоты. Только центробежной силы не хватает.