90k
3 года назад · 6 фото · 4162 просмотров · 51 комментарий
Илон Маск предупредил об опасности искусственного интеллекта для человечества (6 фото)
Метки: #ВЫСОКИЕ ТЕХНОЛОГИИ #ИИ #Илон Маск #Искусственный интеллект #Открытое письмо #война машин #опасность для человечества
Илон Маск подписал открытое письмо с призывом прекратить разработки искусственного интеллекта из-за потенциальных рисков для человечества. По словам Маска, в ближайшее время люди рискуют столкнуться со смертельными опасностями, если не возьмут компьютерный интеллект под контроль.
Генеральный директор Twitter вместе с более чем тысячей других экспертов по искусственному интеллекту подписали открытое письмо, выразившее их опасения в том, что технология представляет серьезную угрозу для общества людей. Письмо призывает немедленно остановить «опасную гонку» технологических достижений.
Письмо было опубликовано некоммерческим Институтом будущего жизни. По словам экспертов, его цель - предупредить людей о предполагаемом риске, который ИИ может представлять для цивилизации.
Институт будущего жизни - некоммерческая организация, которая финансируется Фондом Маска и Фондом приверженности переменам, а также Фондом сообщества Силиконовой долины.
Авторы письма предупреждают, что искусственный интеллект в ближайшее время может стать причиной экономических и политических потрясений для человечества. «Системы искусственного интеллекта, чей интеллект способен конкурировать с человеком, могут представлять серьезную опасность для общества и человечества, - говорится в документе. - Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их влияние будует положительным, а риски - управляемыми».
В письме утверждается, что лаборатории искусственного интеллекта и независимые эксперты должны сделать перерыв в своей работе над ИИ и использовать его для регулирования и создания «четких протоколов». Авторы призывают разработчиков «совместно создать и внедрить набор общих протоколов безопасности для усовершенствованного проектирования и разработки ИИ, которые будут тщательно проверяться и контролироваться независимыми внешними экспертами». Такие протоколы, по мнению подписантов, «гарантируют, что системы, придерживающиеся их, вне всяких сомнений безопасны».
Письмо предлагает приостановить на шесть месяцев «опасную гонку» в разработке систем, более мощных, чем недавно выпущенная OpenAI GPT-4.
GPT-4 — это следующая версия технологии ChatGPT, которая, как сообщается, значительно улучшает способность чат-бота понимать и выполнять поставленные задачи — от написания эссе до советов по контрабанде запрещенных веществ.
Если эти меры не будут приняты в установленные сроки, заявляют авторы, правительства должны четко высказать свою позицию в защите безопасности человечества и вмешаться, введя временный запрет на быстро развивающиеся технологии и мораторий на новые разработки в сфере ИИ.
Маск - не единственнымй известный человек, подписавшим документ. Соучредители Apple Стив Возняк и Йошуа Бениго, которых называют «крестными отцами ИИ», также поставили свои подписи под письмом.
Метки: #ВЫСОКИЕ ТЕХНОЛОГИИ #ИИ #Илон Маск #Искусственный интеллект #Открытое письмо #война машин #опасность для человечества
ИИ представляет опасность не для цивилизации, а для тех кто стоит во главе цивилизации, т.е. для денежных мешков и чиновников. Для простых людей ИИ как раз не опасен, а наоборот несет им процветание
1. Маск понял что слегка пролюбил шанс и пытается притормозить конкурентов пока он занимается тем же самым сам
https://www.usatoday.com/story/tech/2023/03/01/woke-chatgpt-ai-musk-chatbot/11375469002/https://www.usatoday.com/story/tech/2023/03/01/woke-chatgpt-ai-musk-chatbot/11375469002/
2. "Введение протоколов" и прочая муть, это попытка загнать в регуляцию все разработки по теме, а потом Маск со своими бабками легко эту регуляцию возглавит.
Ну лет так через пятьсот - семьсот может и получат какие то зачатки ИИ. Именно ИИ,а не то о чем мечтают сейчас.Ну и чего Илоне переживать за тех,кто будет жить тогда?
Сегодня ехал с работёнки и слушал по BFM как два кренделя из Сбер и ... Хооть убейте, откуда то еще не помню обьясняли, что ИИ - это хорошо. И просто компании которые не успели достигнуть успеха просят притормозить на пол года чтобы всех догнать.
Я нмного охренел с этих утверждений и понял как же я ошибался. Ведь все люди звонящие в Сбер ссаный и аналогичные структуры просто ОБОЖАЮТ больше всего в жизни повторят их искуственному интеллекту фразу "поговорить с оператором" А на второй вопрос отвечают "поговорить с оператором"
Нет, серьезно, тот же Маск прососал в ИИ и хочет ИИ сбера на пол года тормознуть чтобы....
ага, правительства приостановят разработку ии, а сша засекретит.
Мне кажется когда ИИ "поймёт" что из себя представляет человечество с его грехами ( ЛГБТ, проституция, убийцы, наркоманы, алкоголики, ВОЙНА, предательство, измена, ЛОЖ и т.д.) он "построит" для себя храм, придумает своего "БОГА" и будет за нас "людей" молиться. ИНТЕЛЛЕКТ, это не только способность мыслить, анализировать, управлять, развиваться, но и различать ДОБРО и ЗЛО.
Из любого утюга. Любой инфоповод.
потому что это острая для многих тема.
Каким боком она для многих острая?
ну, говоря за себя, я, допустим, немного 3д-шник, и меня это касается напрямую, слежу за тем, когда нейросеть научат эффективно работать с 3д. И что произойдет с рынком заказов. А ещё я слышал, что под угрозой всякие юристы, бухгалтера, программисты и много кто ещё. Если бы ВАМ было интересно, вы бы взял и загуглили.
Вы, это не многие. В таком случае фразу нужно было построить так "для меня эта тема интересна". Я в очереди в Магните пока не встречал ни одного человека, который бы рассуждал об угрозе ИИ человечеству. Помнится подобное говорили о 3D принтерах. Что они вытеснят людей, и всё будут делать. И чё? ИИ давно в играх. И как это влияет на человечество? Да никак. Как будет влиять в будущем? Да никак. Это как если ты ремонтируешь машину одним ключом и пассатижами, а потом покупаешь набор. Всё происходит быстрее и легче. Но это не означает, что набор ключей заменит человека. Это лишь инструмент.
Ещё в 60 е учёные говорили, что реальную опасность для человечества представляют: ядерные исследования, генная инженерия и работы над искусственным разумом.
Учитывая то ускорение, с которым следуют научные открытия и их практическое применение, жить нашей цивилизации осталось десятки лет...
Всё есть разумные люди...
Силиконовая долина звучит так же нелепо, как кремниевые сиськи...
Это еще что у нас в городе компания "Амбрела" работает...
Маск лучше других должен понимать, что джина в бутылку не засунуть.
Даже если все коммерческие платформы прекратят свои разработки, сообщества "энтузиастов" будут продолжать.
И в этом поле, есть, как энтузиасты конспирологи, уверенные, что ИИ уничтожит человеческий род, так и наоборот.
В общем, мы будем иметь все цифровые разработки, на которые только будет способен технологический уровень нашей цивилизации. Да, иногда, с большим временным лагом.
P.S. Бесплатный софт с открытым кодом, ещё лет пять-семь назад был почти бесполезен, кроме отдельных сетевых решений Сейчас же мы уже имеем вполне работоспособные бесплатные утилиты даже для графических дизайнеров.
Не за горами, бесплатный софт для инженерии и станков. Не пиратский, а бесплатный. РАБОТАЮЩИЙ. И всё это, ради уменьшения энтропии будет создано людьми. А уж нарастание её Маску точно не проконтролировать.
он много раз ошибался и много раз пытался что-то сделать грандиозное. Пока не получилось
Помню, в середине 90-х была возня по запрету интернета. Типа все умрут из за него, потеряют работу и сойдут с ума. Даже у нас по телевизору группа клуонув, Макаревич, Гребенщиков, и т.п. собиралась за круглым столом, передача "Взгляд" кажется, и рассказывала, какой интернет вредный, опасный и не нужный.
Посмотреть этот выпуск, есть видосик?
Благодарю!
Грефф наш пошел еще дальше. Он вообще предложил математику отменить. А то насчитают тут всякого... А ему потом налоги плати...
https://www.bfm.ru/news/392533https://www.bfm.ru/news/392533
Это письмо подписали многие разработчики ИИ. Думаю, что они просто сами офигели со своих же результатов. Пусть тормозят и разбираются. Поддерживаю.
Про Интернет тоже самое говорили. Мол сеть убьет литературу, кино, навыки человеческого общения. Человечество превратится в толпу сутулых зомби. И как?
Лично по мне, ИИ это всего лишь другая форма ввода информации и общения с компьютером. Все равно ИИ остается программой.
вы вокруг посмотрите- человечество таки превращается в сутулых зомби
Только те кто хочет этого. Для меня интернет, это возможность узнать больше в короткое время. Для кого-то тик ток. Вопрос выбора.
Данное открытое письмо - эксплуатация страхов людей, не представляющих себе, как работает современный "ИИ", и имеющих представление об этом исключительно из всякой научной фантастики и хорроров.
И, сдается мне, с целью снять с себя ответственность за результаты работы их ИИ, бгг.
А вот тот же Ашманов, например, другую тему поднимал - когда уже этих пилильщиков ИИ и бигдаты начнут прижимать за несоблюдение закона о персданных ?
Вон, в соседней теме, как раз начали. В Италии.