13k
7 лет назад · 2 фото · 2100 просмотров · 9 комментариев
Китайский ИИ-антикоррупционер пал жертвой своих принципов (2 фото)
Метки: #Китай #взятки #технологии #факты
На протяжении последних нескольких лет в некоторых регионах Китая работала антикоррупционная система Zero Trust, созданная с применением технологий искусственного интеллекта
С 2012 года с её помощью было поймано более 8700 госслужащих, занимавшихся растратой, злоупотреблением властью и государственными средствами, продвижением близких и другими противозаконными действиями. Несмотря на эффективность системы, в большинстве округов отказались от её использования.
Zero Trust была разработана и введена в эксплуатацию Академией наук и подразделением внутреннего контроля Коммунистической партии Китая. Для мониторинга и оценки работы и личной жизни госслужащих нейросеть получила доступ к более чем 150 защищённым базам данных в центральных и местных органах власти. Это позволило составлять сложные многоуровневые карты социальных отношений при анализе поведения чиновников. В частности, система позволяет обнаружить подозрительные передачи собственности, незаконные стройки, приобретения земли, снос домов, растрату средств и другие подобные действия.
«Искусственный интеллект может быстро указать на коррумпированного чиновника, но он не очень хорошо объясняет, как он пришёл к такому выводу. И хотя в большинстве случаев результаты правильные, вам нужен человек, чтобы тесно работать с ними», — рассказал один из исследователей.
Нейросеть также способна мгновенно зафиксировать необычное увеличение сбережений в банке, покупку нового автомобиля или проведение торгов по государственному контракту на имя чиновника или одного из членов его семьи или знакомых. После этого проводится расчёт вероятности: может ли госслужащий быть коррумпированным. Если результат превышает установленное значение, власти получают предупреждение.
Zero Trust была разработана и введена в эксплуатацию Академией наук и подразделением внутреннего контроля Коммунистической партии Китая. Для мониторинга и оценки работы и личной жизни госслужащих нейросеть получила доступ к более чем 150 защищённым базам данных в центральных и местных органах власти. Это позволило составлять сложные многоуровневые карты социальных отношений при анализе поведения чиновников. В частности, система позволяет обнаружить подозрительные передачи собственности, незаконные стройки, приобретения земли, снос домов, растрату средств и другие подобные действия.
«Искусственный интеллект может быстро указать на коррумпированного чиновника, но он не очень хорошо объясняет, как он пришёл к такому выводу. И хотя в большинстве случаев результаты правильные, вам нужен человек, чтобы тесно работать с ними», — рассказал один из исследователей.
Нейросеть также способна мгновенно зафиксировать необычное увеличение сбережений в банке, покупку нового автомобиля или проведение торгов по государственному контракту на имя чиновника или одного из членов его семьи или знакомых. После этого проводится расчёт вероятности: может ли госслужащий быть коррумпированным. Если результат превышает установленное значение, власти получают предупреждение.
По словам одного из разработчиков системы, после выявления вероятного нарушения начальник может связаться с человеком и постараться помочь ему избежать совершения непоправимой ошибки. И хотя с помощью Zero Trust некоторые чиновники всё же были приговорены к тюремному заключению, большинству было разрешено сохранить свою работу после предупреждения или незначительного наказания. Дело в том, что одна из ключевых задач этой программы — не поймать вора, а предупредить преступление.
Zero Trust была запущена в экспериментальном режиме в 30 округах и городах, что составляет около 1% от общей административной территории Китая. Спустя некоторое время ряд населённых пунктов прекратил использование системы, так как новая технология заставляла чиновников чувствовать себя дискомфортно. Представители властей даже подвергли сомнению право нейросети на доступ к конфиденциальным базам данных, поскольку нет ни закона, ни нормативного акта, разрешающего это делать компьютеру или роботу.
Чжан И, член дисциплинарной комиссии Коммунистической партии Китая в Нинсяне, провинция Хунань, заявил, что его ведомство остаётся одним из немногих, которое всё ещё использует эту систему.
«Это нелегко… мы испытываем огромное давление. Основной целью программы было не наказать чиновников, а спасти их на ранней стадии коррупции. Мы просто используем результаты машины в качестве эталона. Нам нужно проверить и подтвердить их. Аппарат не может взять трубку и позвонить человеку, у которого возникла проблема. Окончательное решение всегда принимают люди», — отметил Чжан И.
Zero Trust была запущена в экспериментальном режиме в 30 округах и городах, что составляет около 1% от общей административной территории Китая. Спустя некоторое время ряд населённых пунктов прекратил использование системы, так как новая технология заставляла чиновников чувствовать себя дискомфортно. Представители властей даже подвергли сомнению право нейросети на доступ к конфиденциальным базам данных, поскольку нет ни закона, ни нормативного акта, разрешающего это делать компьютеру или роботу.
Чжан И, член дисциплинарной комиссии Коммунистической партии Китая в Нинсяне, провинция Хунань, заявил, что его ведомство остаётся одним из немногих, которое всё ещё использует эту систему.
«Это нелегко… мы испытываем огромное давление. Основной целью программы было не наказать чиновников, а спасти их на ранней стадии коррупции. Мы просто используем результаты машины в качестве эталона. Нам нужно проверить и подтвердить их. Аппарат не может взять трубку и позвонить человеку, у которого возникла проблема. Окончательное решение всегда принимают люди», — отметил Чжан И.
Метки: #Китай #взятки #технологии #факты
Любую программу пишут люди (всегда можно что то "забыть"/"потерять" по просьбе заказчика), но даже если программа написана безошибочно, то это нужно проверять, причём не только коррумпированным специалистом, значит текст программы должен быть в общем доступе, а если он в общем доступе, то известен алгоритм, а известные правила всегда можно обойти. Но самое страшное в другом: в операторе сего чудного агрегата, который (как тут написано) может истолковать мнение машины как ему вздумается, а результаты работы машины необходимо скрывать (открывать некоторые данные до решения суда нельзя никому кроме работников прокуратуры и суда), а без этих данных заявление машины являются пшиком в пустоту.
Идея нравится, но где тонко, там и рвётся, а тонко тут в человеке.
ПС: гипотетически я чиновник (честный, даже невероятно честный), мне предлагают (пока что устно) взятку, я иду в прокуратуру, договариваюсь с ними, они отслеживают получение взятки (меня ессно не наказывают) и продолжают разработку взяткодателя (не берут сразу), а вот эта машина может быть другого мнения обо мне.
у нас не приживется, так как надо научить систему фильтровать слишком много личностей. иначе пересажать надо слишком высоких чинов, а там все свои
Наши просто не допустят ее применение в принципе.
Или сумеют с ИИ договориться об откате
Лучшее предупреждение все же расстрел каждого второго из списка....Урок каждому другому-второму.
А потом "Ой! А у нас тут ошибочка в коде!".
Тащемто в оригинале говорят немного о другом. А именно: работа системы признана неудовлетворительной из-за большого числа false-positive срабатываний. Сколько корупционеров проскочили через сети этого "поисковика" не могут сказать и сами разрабы. Систему заворачивают на доработку.
Чиновники чувствуют себя несчастными, потому что не могут проводить левыые сделки, оформлять госсобственность на своих друзей и получать большие суммы на свои счета... И поэтому сворачиается программа?
Бля, китайцы, на этой планете остались только вы, в кого еще можно поверить, что будет создано общество справедливости. Не сворачивайте программу, и ваши дети будут гордиться своей страной. Всего одно поколение тех, кто привык воровать, должно смениться - и дальше все будет совсем по-другому!