Одна из распространенных тем в научной фантастике – уравнивание в правах людей и роботов. Разумеется, она тесно связана с «неестественным интеллектом», и решению вопроса о том, чем с точки зрения этики будет, скажем, убийство разумного человекоподобного робота, писатели в свое время посвящали рассказы, повести и романы.

Оказывается, это уже не фантастика. Даже серьезные футурологи предсказывают, что роботы получат гражданские права к 2020 году. Более того - мне очень отрадно сознавать, что, пока «физики» думали над проблемами искусственного интеллекта, а «лирики» спорили о том, сможет ли оный интеллект по достоинству оценить пение жаворонка или аромат фиалки, юристы таки медленно спустились с холма – и сделали все как надо - не дожидаясь 2020 года.

Виновата программа!

Начали юристы, разумеется, с обязанностей и ответственности, а вовсе не с прав. Что вполне объяснимо: что ей, железке, в голову взбредет – этого ни один судья предсказать не может. А вот к ногтю ее – это завсегда пожалуйста.

Итак, в солнечной калифорнщине начался однажды судебный процесс. В суд подал один из клиентов сайта «Ziinet Baucrupcy Engine», Джейсон Рейонсо.

Сайт специализировался на подготовке документов к слушаниям дел о банкротстве. В России сейчас институт банкротства физических лиц даже еще не зародился, а вот в Штатах это довольно обширное поле деятельности для тамошних лойеров. Перед слушаниями дела один из необходимых этапов – это подготовка документов. Клерк, который этим занимается – еще не юрист, его функция заключается в простом сборе данных и составлении набора документов. Именно эти функции и выполнял сайт Ziinet, гордо именующий себя «экспертной системой».

Надо сказать, основания к этому имелись. Кроме простого скрипта, вставляющего полученный от пользователя набор сведений в специальные бланки, сайт включал в себя, среди прочего, и сведения о «лазейках в законе», а также других методов его обхода. Более того – документы, генерируемые сайтом, включали в себя набор советов о том, что говорить в суде под присягой. То есть, скрипты сайта были ближе по интеллекту к нормальному, белковому юристу, чем к простой машине для заполнения бумаг. Кстати, и в его рекламе специально отмечалось: в то время, как остальные конкуренты в Сети – железяки бездушные, наш подопечный «знает законы».

Это его и погубило. Один из клиентов заплатил положенные 219 баксов за 60 дней доступа к сайту и воспользовался его услугами. А после того, как в суде, куда он подал составленные таким образом документы, выяснилось, что в них содержатся ошибки, он, разумеется, подал на владельцев сайта в американский суд, самый гуманный суд в мире.

В ходе рассмотрения апелляции суд высказал мнение о том, что деятельность «экспертной системы» вышла за те рамки, которыми ограничена работа простого клерка по подготовке документов к слушаниям. В своих документах, предоставляемых клиенту, “система” определяла, в какой последовательности предоставлять информацию суду, приводила основания освобождения от налогов и цитировала законодательство.

Всего этого, по мнению судьи, достаточно для того, чтобы признать, что наша «система» оказывала юридические услуги, не имея на то соответствующих полномочий. Правда, в конце документа есть мааааленькая сноска, в которой говорится о том, что данное решение ни в коем случае не нужно рассматривать как основание полагать, будто какая-либо программа все-таки может законным образом такие услуги оказывать. Но первый шаг сделан: на программу возложили ответственность (именно на программу, а не на ее хозяина).

В общем, когда-нибудь в далеком будущем мирные человекоподобные роботы, наверно, разберут друг друга, потом соберут, скинутся по одной лишней детальке, и отольют из них памятник судье Бетти Рейнолдс. В знак признательности.

Орудия своих орудий

Проблема ответственности за информацию, сгенерированную программой – одна из старейших, поставленных информатикой. Действительно: кого наказывать, если компьютер дает неверные результаты? Оператора? Но он никак не может повлиять на работу компьютера. Программиста? Но он не может предусмотреть всех ситуаций, возникающих при работе программы, да и доказать, что в ошибке виновата именно программа, а не неверно введенные данные или сбой «железа», зачатую бывает невозможно. К тому же, объемы выдаваемых машиной данных могут быть такими большими, что какая-либо «человеческая» проверка их может быть затруднительна или исключена. А если брать по большому счету, то проблемы взаимодействия человека и машины, с увеличением областей, в которых применяется компьютерная обработка данных, вылезают как грибы из-под земли.

Правда, в родных пенатах ни о каких новых обязанностях или правах для компьютеров речи не идет. Скорее, имеет место попустительство «операторов», если наших функционеров можно так называть. Из-за этого все обстоит как раз наоборот: компьютеры распоясались и гнобят венцов творения. Очень жаль. Но, учитывая то, что именно правильный путь нащупали юристы, хоть и заграничные, можно надеяться, что и у нас все еще может пойти на лад.

Хорошим примером того, как компьютеры, предоставленные самим себе, налагают ограничения на людей, может служить статья Давида Горелишвили про «три проблемы одного окна». «Косяки» компьютерной обработки информации и ее накопления в базах данных автор иллюстрирует тремя показательными примерами. В первом гражданин, не имеющий регистрации по месту жительства, обращается в регистрационную палату с просьбой зачислить его в индивидуальные предприниматели, и получает отказ. Дело доходит до суда, и в конце концов регистраторы, исчерпав все аргументы, в качестве финальной отмазки говорят, что и не отказ это был вовсе, а просто зарегистрировать человека без адреса они не могут: программа не позволяет ввести запись с незаполненной графой адреса...

Во втором примере с такой же проблемой столкнулись люди, пожелавшие, будучи бомжами, воспользоваться услугами сотовой связи. В третьем же фигурировал гражданин, занимающий свою комнату более пятнадцати лет, но без признания за ним права на жилплощадь. После судебного решения, обязавшего таки зарегистрировать его на этой жилплощади официально, выяснилось, что сделать это не получится. Помещение значилось занятым, правда, самим гражданином. Сразу вспоминаются истории седой древности, когда компьютеры, выписывавшие счета за услуги, рассылали людям, услугами не пользовавшимся, счета на «ноль рублей, ноль копеек». И потом требовали оплатить, да еще и штрафовали иногда.

Казалось бы, это программа должна исполнять закон, но вот беда: мы не на калифорнщине, и обязанности это сделать на нее никто не возложит. Скорее, нас всех загонят в прокрустово ложе «цифровых технологий».

Ориентируясь на компьютеры, уже даже создаются законы. Я имею в виду прежде всего «О персональных данных». В самой его первой статье описана сфера действия. Так вот, она ограничивается только теми случаями, когда операциям, совершаемым с такими данными, есть соответствующая операция-эквивалент, при которой используются «средства автоматизации», читай: «компьютер».

То есть, если действиям, которые совершаются с данными, нет «компьютерного» аналога – под закон они не подпадают. Что это могут быть за действия, я еще не придумал, но простор для спекуляций имеется.

Так что судья Бетти Рейнолдс, как мне кажется, абсолютно права, возлагая ответственность именно на программу. Их надо, как в том анекдоте про паровоз и чайник, «убивать, пока маленькие».

Поэтому памятник ей надо ставить уже сейчас, нам самим. Правда вот лишних деталей у меня нет. Придется собирать металлолом...