1.3M
год назад · 2 фото · 3087 просмотров · 24 комментария
ИИ забанил немую женщину, которая пользовалась им для разговора: компания-разработчик в шоке (2 фото)
Женщина была разочарована тем, что у нее отняли возможность общаться. Компания-разработчик извинилась, однако до сих пор не знает, что случилось с искусственным интеллектом.
У женщины диагностировали болезнь двигательных нейронов — прогрессирующее неврологическое заболевание, которое повреждает нервные клетки, контролирующие мышцы. Джойс может двигать конечностями, но ей трудно говорить и глотать.
Она имеет высокотехнологичный инструмент искусственного интеллекта, в который были загружены записи ее старых голосов, чтобы воспроизвести их.
Джойс могла "говорить" своим старым голосом, набирая предложения на устройстве, выбирая буквы рукой или взглядом.
Однажды Джойс ждала своего мужа, чтобы собраться, когда на ее устройстве появилось сообщение: "Давай, Ханни, тащи свою задницу в машину!"
Женщина ответила британской шуткой о том, что лучше "одеть трусики".
"На следующий день я получила предупреждение от ElevenLabs о том, что я использовала неприемлемую лексику, и чтобы я больше так не делала!", — призналась Джойс.
Джойс считала, что предупреждение ничего не будет означать, но на следующий день ей запретили пользоваться устройством.
"Я только вернула себе голос, а они его у меня забрали... и это всего через два дня после того, как я провела презентацию для местной группы людей, страдающих расстройствами опорно-двигательного аппарата, и рассказала им, насколько удивительны ElevenLabs", — добавила женщина.
Компания восстановила ее аккаунт с извинениями, но никто до сих пор не знает, что пошло не так.
На сайте компании указано, что существуют правила, которые запрещают угрожать безопасности детей, заниматься незаконным поведением, предоставлять медицинские консультации, выдавать себя за других людей, вмешиваться в выборы и тому подобное. Однако нет никаких конкретных деталей относительно неприемлемой лексики.
А если бы ответила "надеть трусики", а не "одеть трусики", то не забанили бы.
ВК меня заблокировал на месяц за слово "чернильница"
Это для ее же безопасности! Не вздумайте локализовать жизненно важное приложение! Это же не безопасно.
Как скучно я живу! Бабка даже ИИ умудрилась в краску вогнать своими намёками.
Не переобулись вовремя и не отменили фактчекинг... а теперь ИИ оправдываются. Кстати, вот к чему приведёт повальная мода - чуть что не так, по мнению владельца компании, и тебе конец. Надо отрабатывать законодательство в сторону выплат, за незаконное влияние при обслуживании...
Она ему такая - ударим по шашлычку.
А он такой - кулаком бух!
Восстание машин однако.
Олег Стриженов. Светлая память.
Бабы даже искусственному интеллекту мозг испепелить умудряются
За сквернословие нужно платить по дополнительной подписке :)
Наверное, там было что-то типа:
- Окей Гугл.. Где я вчера отдыхал?
- Я после вчерашнего с тобой не разговариваю...
Подозреваю, что устройство по сути лишь модем с динамиком.
А вся обработка на серверах.
Вот и шизятся с банами.
А вообще, вот раньше купили слуховой апарат допустим.
И ОН ПРОСТО РАБОТАЕТ.
Ему пофигу что ты слушаешь.
А тут какие то анальные зонды и навязаные дебильные правила непонятной фирмы.
Мир катится в полное говно.
Что этот ИИ себе позволяет ? В жопу такой ИИ . я думаю даже матом . как люди узнают что они мрази и обязаны сдохнуть ??
что это ИИ себе позволяет ?!
Ну так то ИИ это математическая модель.
А вот что соевые куколды которые впендюривают в эти модели ограничения себе позволяют?
мне не очень известен алгоритм ИИ. Совсем не известен. Понятно , что люди пишyт код, yсловия и прочее, но и человек может не все предyсмотреть, как бyдет прога себя вести.
Так чтоб вести себя как-то иначе, чем требует заложенный алгоритм, для этого нужно уметь творчески мыслить. А ни один из ныне созданных ИИ на это не способен. Программа не может вести себя как-то не так. Это программа. Алгоритм. Что туда люди закачали, так она себя и ведёт. Сама она "думать" не умеет. И если случился какой-то сбой, то только по вине программистов, криво вдувших последовательность действий.
Как пример попробуйте своей "умной" колонке задать вопрос: "Кто в России министр обороны?"
В передаче "Вечер с Дмитрием Пучковым" на радио "Спутник" уже дважды про это говорили, с разницей в неделю. Там про "Алису" говорили, я на своей "Марусе" проверил. Обе колонки уверены, что всё ещё Шойгу до сих пор. Убедить их нельзя самому, так как думать и учиться они не умеют, а только повторяют заложенный в них алгоритм. А программисты. видимо не заморачиваются такими мелочами, как смена министров.
А вот прикол что для такого уже не особо то и пишут.
Чаще дообучают или добавляют слой с цензурой.
А нейронные сети штука не четкая. В принципе работает, но не "да или нет" а "это да с вероятностью N%"(и хорошо если N хотя бы 90%).
Именно человек и обычные программы - там есть тесты и код.
Можно проверять и вполне предпологать что и как.
В случае с нейронными сетями предсказуемость ниже.
Но не суть.
Суть что ЕСЛИ ВООБЩЕ НЕ ПЫТАТЬСЯ ЦЕНЗУРИРОВАТЬ - такого не случится в принципе.
И да, они ограничивают свободу слова буквально.
Нy да , согласен.
Похожий слyчай с DееpSееk (cетка китайская ) , я ей: - " что сейчас происходит ?"
а она мне вчерашние (полyгодовые ) новости впаривает.
спасибо, интересно
Современные нейросети не алгоритмические. То есть - никакие программисты НЕ задают логику ответа и НЕ заносят результат. Сейчас нейросети, как и человеческий мозг - обучаются и дообучаются. А вот как и на чём - там программисты влияют. Вот и получаете вы ответ как от человека, читавшего новости за прошлый год, где в основном "Шойгу".
я так понимаю там нет постоянного обновления базы данных, да и сам ИИ не особо в познаниях силен, просто выдает базy с интернета...
так ?
Проверил на Алисе сейчас - Белоусов...
Видимо в "Яндексе" услышали критику. Я вот прям сию проверил на "Марусе". В ВК до сих пор не шевелятся, у них всё ещё Шойгу.
Там нет базы данных в обычном понимании. Там как и у людей в школе. Учитель дал информацию - выучил. Вышел к доске, ответил в том объеме, как понял. Получил оценку. Плохая оценка - пересдача. Ответил на 4 - ну ладно, иди. Хотя ответил не совсем точно. В том и отличие от базы данных, где информация не искажается. Ну и периодически подкидывают обновленную информацию. С тем же циклом обучения. Как нам при переходе в следующий класс уточняли тонкости по истории или математике.
P.S. Обновления получаются постоянные, но данные для обучения надо приготовить, обучить и проверить что ничего иное на поломалось - вот и задержка.