ИИ забанил немую женщину, которая пользовалась им для разговора: компания-разработчик в шоке (2 фото)

У женщины диагностировали болезнь двигательных нейронов — прогрессирующее неврологическое заболевание, которое повреждает нервные клетки, контролирующие мышцы. Джойс может двигать конечностями, но ей трудно говорить и глотать.

Она имеет высокотехнологичный инструмент искусственного интеллекта, в который были загружены записи ее старых голосов, чтобы воспроизвести их.

Джойс могла "говорить" своим старым голосом, набирая предложения на устройстве, выбирая буквы рукой или взглядом.

Однажды Джойс ждала своего мужа, чтобы собраться, когда на ее устройстве появилось сообщение: "Давай, Ханни, тащи свою задницу в машину!"

Женщина ответила британской шуткой о том, что лучше "одеть трусики".

"На следующий день я получила предупреждение от ElevenLabs о том, что я использовала неприемлемую лексику, и чтобы я больше так не делала!", — призналась Джойс.

Джойс считала, что предупреждение ничего не будет означать, но на следующий день ей запретили пользоваться устройством.

"Я только вернула себе голос, а они его у меня забрали... и это всего через два дня после того, как я провела презентацию для местной группы людей, страдающих расстройствами опорно-двигательного аппарата, и рассказала им, насколько удивительны ElevenLabs", — добавила женщина.

Компания восстановила ее аккаунт с извинениями, но никто до сих пор не знает, что пошло не так.

На сайте компании указано, что существуют правила, которые запрещают угрожать безопасности детей, заниматься незаконным поведением, предоставлять медицинские консультации, выдавать себя за других людей, вмешиваться в выборы и тому подобное. Однако нет никаких конкретных деталей относительно неприемлемой лексики.