ШТУЧНИЙ ІНТЕЛЕКТ ТА КРИМІНАЛЬНА ВІДПОВІДАЛЬНІСТЬ

Муренко Вікторія, МЕ-102, КНЕУ

ШТУЧНИЙ ІНТЕЛЕКТ ТА КРИМІНАЛЬНА ВІДПОВІДАЛЬНІСТЬ

Постановка проблеми: Однією з актуальних проблем сьогодення є питання про роль та місце штучного інтелекту в системі суспільних правовідносин, які захищаються кримінальним правом, зв’язок інформаційної безпеки з дослідженнями штучного інтелекту та їх результатами, можливість і доцільність визнання штучного інтелекту, що фізично втілений в об’єкт робототехніки, об’єктом та суб’єктом кримінально-правових правовідносин. Досягнення у розвитку штучного інтелекту можуть бути використані для вчинення злочинів, в тому числі в сфері інформаційних відносин, або сам він може являти безпосередню загрозу охоронюваним правам та законним інтересам людини, суспільства та держави.

Метою моєї доповіді є визначення впливу розвитку штучного інтелекту на правовідносини, в тому числі в кримінально-правовій сфері, можливості застосування заходів кримінально-правового впливу до електронних осіб в сфері робототехніки.

Як зазначає Джеймс Баррат, автор книги Our Final Invention: Artificial Intelligence and the End of the Human Era (“Наш останній винахід: штучний інтелект і завершення ери людства”), сучасний комп’ютер проекту Busy Child працює з швидкістю 36,8 петафлоп за секунду, тобто удвічі швидше, ніж мозок людини, що стало можливим лише завдяки використанню штучного інтелекту, який переписує власну програму, покращує код, знаходить і виправляє помилки, збільшує здатність до засвоєння знань, вирішення завдань і прийняття рішень, вимірює власний коефіцієнт інтелекту IQ за допомогою тестів тощо.

Передбачаючи швидкий інтелектуальний вибух, розробники відключили суперкомп’ютер від мережі Інтернет з метою його ізолювання від зовнішнього світу, але невдовзі виявилося, що і у цьому стані він продовжував свій розвиток і через деякий час став розумнішим за людину в десять разів, а потім – в сто. Автор зазначає, що вперше людство зіткнулося з розумом, який є більш потужним, ніж розум людини, який усвідомлює себе, готовий до самозбереження і до вчинення певних дій з метою доступу до енергії в тій формі, яку зручніше використовувати. У відповідь на роздуми розробників про нього, штучний інтелект буде витрачати більш потужні ресурси на роздуми про них.

Юридична фірма Baker & Hostetler оголосила, що приймає на роботу штучний інтелект ROSS розробки компанії IBM для ведення справ про банкрутство, якими зараз опікуються майже п’ятдесят юристів. ROSS цілодобово слідкуватиме за законодавством і правовою ситуацією, був розроблений на когнітивному комп’ютері Watson компанії IBM, вміє читати і розуміти мову, висувати гіпотези, досліджувати, а потім генерувати відповіді з належними посиланнями та цитатами, навчається зі свого досвіду тощо.

Вчені з Університетського коледжу Лондона і Університету Шеффілда створили “комп’ютерного суддю”, який передбачає рішення Європейського суду з прав людини з точністю до 79 %. Розроблений алгоритм бере до уваги не лише законні докази, але й моральний бік справи. “Комп’ютерний суддя” аналізує текст справи, використовуючи «алгоритм машинного навчання”. Науковці не розглядають винахід як заміну суддів чи адвокатів, але вважають його корисним для швидкого виявлення закономірностей у прийнятті рішень суддями. “Це може бути цінним інструментом для визначення справ, у яких є порушення Європейської конвенції про права людини”, – зазначено у повідомленні. Для розробки алгоритму команда дозволила “комп’ютерному судді” просканувати опубліковані рішення з 584 справ щодо катувань, приниження гідності та справедливих суддів: “електронний суддя” встановив вердикти з 79 % точності. Одночасно вчені встановили, що рішення Європейського суду з прав людини часто базуються на моральних аспектах, а не правових аргументах.

Нещодавно відома компанія Google отримала патент на власну технологію, що дозволяє модернізувати роботів та роботизовані пристрої. Взаємодія значної кількості, без обмеження по максимуму, роботів відбувається через “хмару тегів”, їх власник має можливість налаштувати свої пристрої так, як це йому потрібно, за допомогою смартфону або іншого пристрою на платформі Android. Контролювати їх дії можливо з будь-якого місця, якщо задати у налаштуваннях необхідну програму та код. Компанія стверджує, що її технологія не містить загрози для суспільства та світової безпеки. На їх думку, вона призначена виключно для автоматизації та оптимізації сфери послуг. Також керівництво компанії повідомило, що вони додають зусиль для захисту своєї технології від поширення і використання в галузі гонки озброєнь.

Роботи Zooids можуть вишиковуватися у будь-якому порядку відповідно до команди, спілкуватися з користувачем, мають колеса, гіроскоп та датчики, що дозволяють не перетинатися один з одним, працюють тільки разом, зазначає TechCrunch, посилаючись на GitHub розробників. Рухи роботів відслідковуються спеціальним проектором, інструкції до дій вони отримують з командного комп’ютера.

Відома міжнародна неурядова організація Amnesty International наполягає на тому, щоб заборонити розробку роботів-вбивць, що ґрунтуються на нових технологіях. Їх прикладом є безпілотний повітряний апарат Shadow Hawk, який розробляється в США компанією Vanguard Defense Industries. Він вже використовувався в Афганістані та Східній Африці проти осіб, які підозрюються у здійсненні диверсійно-терористичної діяльності. Крім того, він може вражати підозрюваних електрошоком з висоти та на відстані, озброєний вогнепальною зброєю (автоматичною гарматою) дванадцятого калібру, 37 мм та 40 мм гранатометами. Велика Британія також нещодавно презентувала новий автономний безпілотний надзвуковий літак Taranis, який має на борту касети для розміщення різних видів високоточної самонавідної зброї [26]. За даними Bureau of Investigative Journalism (“Бюро журналістських розслідувань”), в результаті використання “безпілотників” в період між 2004 та 2013 роками було вбито від 2500 до 3500 осіб, в тому числі, мирних жителів і дітей, і більше ніж тисячі завдано поранення.

Міжнародна група вчених з США, Франції та Китаю створила напівсинтетичну форму життя. Тим самим вдалося створити організм з фундаментальними змінами в ДНК, який здатен зберігати їх без відторгнення нескінченно довго. Цей винахід дозволить просунутися у синтезі білків та створити повноцінний штучний генетичний код.

Найбільш сприятливе у сучасному світі ставлення до роботів спостерігається в Японії, де з ними стикаються частіше, ніж в інших країнах. Роботи використовуються в галузі охорони здоров’я та догляду за літніми людьми. Примітно, що особи похилого віку, не бажаючи відволікати персонал, іноді з більшим задоволенням спілкуються з роботами. Справедливим виглядає припущення, що цей досвід поширюватиметься світом.

Про намір залучити роботів до служби в поліції повідомили в прес-службі поліцейського управління Дубаї. Спочатку заплановано використовувати їх для проставлення штампів на документах, нагадування про справи та важливі робочі моменти, фіксації різного роду порушень роботи, а прикордонники мають намір обладнати аеропорти системою розпізнавання не задекларованих речей.

Вже зараз високоточні пристрої проводять складні хірургічні операції, одними за найбільш відомих проектів на сьогодні є Deep Blue (машина-шахіст), IBM Watson (пристрій з сприйняття мови, поведінки та процесу мислення людини), MYCIN (потужна система діагностики захворювань). У найближчому майбутньому нас чекають ще більш революційні зміни. Група експертів під керівництвом Еріка Хорвіца (Eric Horvitz), керуючого директора лабораторії Microsoft Research, колишнього президента Асоціації з покращення штучного інтелекту, вважає, що вже до 2030 року нас чекають наступні зміни:

  1. в сфері транспорту – безпілотні автомобілі, самокеровані вантажівки, атомні дрони доставки (дрон – безпілотний апарат для переміщення у повітрі, від англ. Drone – трутень); потоки даних від збільшення числа датчиків дозволять адміністраторам моделювати рухи окремих людей, їх уподобання та цілі, що значною мірою вплине на дизайн міської інфраструктури тощо;
  2. домашнє господарство – більш поширеними стануть роботи-прибиральники, підключені до Інтернет-хмар роботи отримують можливість здійснювати обмін даними та навчатися за рахунок цього дедалі швидше; не надто коштовні 3D-датчики типу Microsoft Kinect прискорять розвиток перцептивних технологій (перцепція – “сприйняття”), прориви в галузі розпізнання мови покращать взаємодію роботів з людьми тощо;
  3. охорона здоров’я – тривалий та складний процес ведення записів пацієнтів та опанування наукової літератури буде автоматизований, цифровий помічник дозволить лікарям зосередитися на людських аспектах догляду за пацієнтами та вивільнити свою інтуїцію, екзоскелети допоможуть літнім людям підтримувати себе в активній формі тощо;
  4. освіта – різниця між груповим та індивідуальним навчанням може бути усунута, масові онлайн-курси дозволять налаштовувати процес навчання індивідуально за будь-яким масштабом, сумісні з штучним інтелектом системи освіти вивчатимуть уподобання індивідів, сприятимуть накопиченню даних та розвитку нових інструментів, складні системи віртуальної реальності дозволять студентам занурюватися в історичні та вигадані світи з метою їх дослідження поза безпосереднім контактом тощо;
  5. незаможні спільноти та особи – прогностична аналітика дозволить урядовим агентам краще розподіляти обмежені ресурси, передбачати екологічні загрози тощо;
  6. суспільна безпека – міста будуть значною мірою залежати від технологій штучного інтелекту для виявлення і прогнозування злочинності, автоматична обробка відеонагляду і зйомка згори за допомогою дронів дозволять швидко виявляти протиправну поведінку, аналіз мови та рухів може допомогти виявляти підозрілу поведінку, штучний інтелект може подолати упередженість і бути у порівнянні з уповноваженими фізичними особами (службові особи, представники місцевої влади, особи, що надають публічні послуги) більш відповідальним, послідовним і чесним в сфері правозастосування тощо.

Поряд з цим існує думка, що невдовзі люди і роботи будуть конкурувати між собою на ринку праці.

Наскільки реальною є можливість створення штучного інтелекту (крім вищезгаданого проекту Busy Child), свідчать наступні факти.

За повідомленням видання Technology Review вже через 60 років штучний інтелект стане значною загрозою для людства. До 2022 року він буде мислити приблизно на 10% як людина, до 2040 року – на 50 %, до 2075 року – процеси мислення неможливо буде відрізнити від людських. До таких умовиводів прийшов шведський вчений, професор Оксфордського університету Нік Бостром, який пропонує бути більш обережними, оскільки вважає його занадто загрозливим для людства (проблемою контролю над штучним інтелектом займаються у світі приблизно шість дослідників, питаннями його створення – десятки і сотні тисяч). Такої самої думки дотримується й Ілон Маск – засновник компаній Tesla і SpaceX.

Стриманий оптимізм і застереження цих дослідників можливо узагальнити наступним чином: 1) внаслідок здатності до саморозвитку штучний інтелект перетвориться в суперінтелект; 2) у суперінтелекта з’являться свої власні потреби і цілі (він може бути менш людяним, ніж розумний прибулець); 3) суперінтелект може спробувати використати людей проти їх волі (наприклад, з метою отримання доступу до ресурсів); 4) суперінтелект може забажати залишитися єдиним інтелектом навкруги; 5) людина, як система зручно згрупованих атомів, може зацікавити суперінтелект в якості ресурсу; 6) людство не є готовим до зустрічі з суперінтелектом і ще не буде готове багато років; 7) людство повинно навчитися тримати штучний інтелект під достатнім контролем.

У зв’язку з вищевикладеними обставинами виникає питання про можливість та доцільність визнання штучного інтелекту суб’єктом правовідносин, в тому числі кримінально-правових.

До тих пір, поки відповідальність покладається на виробника та користувача, питання про визначення суб’єкта не викликає складнощів. Але у випадку, наприклад, розробки програмного забезпечення з відкритим початковим кодом визначити виробника буде доволі складно. Ще складнішою буде ситуація з штучним інтелектом, який сам себе усвідомлює, наділений можливістю самовдосконалення, дбає про власне самозбереження та отримання необхідних ресурсів, має здібності до творчої діяльності тощо.

Все, що створено працею людини, ми поки що обґрунтовано сприймаємо в якості об’єктів права власності, предметів злочину, речей, у яких апріорі не може бути законних прав та охоронюваних інтересів. Відповідно вони не можуть нести відповідальність за спричинену шкоду, відповідати за зобов’язаннями тощо.

Між тим, штучний інтелект суттєво відрізняється від інших явищ та об’єктів. Дослідники Джордж Дайсон та Кевін Келлі, взагалі, висунули гіпотезу про те, що інформація – це форма життя.

Наявність інтелекту та особистості не у людини, а у іншої істоти, вже визнана на державному рівні в одній з країн сучасного світу, яка поряд з контрастами занепаду постачає своїх видатних представників на ринок інтелектуальних надбань та у сферу загального гуманістичного розвитку людства: в Індії статус “особистості, яка не відноситься до людського роду” нормативно закріплений за одним з представників загону водних ссавців – дельфінами. Одночасно з цим заборонено заходи з участю дельфінів у дельфінаріях, акваріумах, океанаріумах тощо. У рішенні, яке було оголошено керівником Міністерства навколишнього середовища цієї країни, підкреслюється, що дельфіни є високоінтелектуальними ссавцями з високо розвинутою соціальною організацією, їм властиві людиноподібне самоусвідомлення та залучення у складну систему комунікацій, у зв’язку з чим вони повинні мати свої власні особливі права.

У свою чергу, Європейський парламент прийняв на розгляд проект резолюції про правовий статус роботів як “електронної особистості (електронної особи)”. Проект Резолюції передбачає наділення роботів статусом “електронної особистості”, яка має специфічні права та обов’язки. Як зазначається у доповіді автора проекту Резолюції, роботи не можуть розглядатися просто інструментами у руках їх володільців, розробників або користувачів (це дещо співзвучно з тим, що плід не вважається частиною тіла матері. Сесією Ради Європи з біоетики (грудень 1996 р.) визначено, що протягом усього внутрішньоутробного розвитку плід не можна вважати частиною тіла вагітної жінки, його неможливо розглядати як орган чи частину тіла організму майбутньої породіллі), внаслідок чого дедалі важливішим стає питання про те, чи повинні роботи мати власний юридичний статус або ні. Резолюція встановлює загальні та етичні принципи розвитку галузі робототехніки та штучного інтелекту для використання у суспільстві, які повинні враховуватися під час соціального, екологічного та іншого впливу, та здатні були б забезпечити відповідність поведінки роботів правовим, етичним та іншим стандартам, в тому числі вимогам безпеки. Наприклад, передбачається обов’язок розробників роботів інтегрувати в механізм та програми останнього аварійний вимикач з метою миттєвого відключення всіх процесів у надзвичайних ситуаціях.

Вказана Резолюція має на меті регулювання правового статусу роботів у суспільстві людей, для чого пропонується: створити спеціальне Європейське агентство з робототехніки і штучного інтелекту; розробити нормативне визначення “розумний автономний робот”; розробити систему реєстрації всіх версій роботів разом із системою їх класифікації; зобов’язати розробників надавати гарантії запобігання ризикам; розробити нову структуру звітності для компаній, які використовують роботів або мають потребу в них, що передбачатиме, в тому числі, відомості про вплив робототехніки та штучного інтелекту на економічні результати діяльності компанії.

У згаданій доповіді зазначається, що для розробника є доволі складним запобігти передбачуваній шкоді у тому випадку, коли роботи здатні до самовдосконалення та адаптації. Тому, замість того, щоб розташувати штучний інтелект серед вже відомих категорій (фізичні особи, юридичні особи, тварини, речі та інші суб’єкти та об’єкти), пропонується створення нової категорії “електронних осіб” як більш доцільної.

Наділення штучного інтелекту статусом “електронної особи”, скоріш за все, не повинне зустріти заперечень та неприйняття у сфері кримінально-правових правовідносин. Ця новація може спиратися на усталений, перевірений теорією та практикою підхід щодо визнання юридичної особи суб’єктом численних правовідносин, а також на нормативне закріплення можливості застосування до юридичної особи заходів кримінального-правового характеру на підставі положень ст.ст. 96-3, 96-4, 96-6 Розділу XIV-1 “Заходи кримінально-правового характеру щодо юридичних осіб” КК України за вчинення від її імені та в її інтересах певного злочину (ст.ст. 109, 110, 113, 146, 147, ч. 2-4 ст. 159-1, ст.ст. 160, 209, 260, 262, 306 КК України та інші), що завуальовано наділяє юридичну особу практично такою ж мірою відповідальності, яка є у фізичної особи – суб’єкта злочину.

У зв’язку з цими обставинами правова доктрина в галузі кримінального права підлягає переоцінці та трансформації.

Штучний інтелект, фізично втілений в об’єкт робототехніки, повинен розглядатися в якості суб’єкта правовідносин, можливо, десь посередині між юридичними і фізичними особами, поєднуючи їх окремі риси з врахуванням відповідної специфіки.

Можливо, штучний інтелект може одночасно розглядатися і як об’єкт, і як суб’єкт права. Теоретичні дослідження у цьому напрямку вже тривають, наприклад, здійснюються Райаном Кало професором University of Washington School of Law, директором UW Tech Policy Lab , поряд з вивченням можливості притягнення роботів до кримінальної відповідальності.

У зв’язку з цим виявляється доволі можливою поява в КК України розділу під умовною назвою XIV-2 “Заходи кримінально-правового характеру щодо електронних осіб”.

Між тим, роздуми щодо відповідальності, в тому числі кримінальної, штучного інтелекту мають сенс тільки в тому випадку, якщо людство збереже контроль над ним. Якою мірою є обґрунтованими сумніви у цьому, свідчать окремі поодинокі твердження. Так, згаданий Джеймс Баррат вважає, що підсумковою стадією робіт зі створення спочатку розумних машин, а потім машин, які є більш розумними за людину, стане не їх інтеграція у наше життя, а їх перемога над нами. Це твердження він ілюструє наступним спостереженням: ДНК людини та плоских черв’яків має багато спільного, але навряд чи ми переймалися би їх цілями, цінностями та мораллю, якщо б навіть усвідомили, що вони були нашими попередниками. В якості змішаних рис та якостей штучного інтелекту вказують на наступні: самокопіювання ; вирішення завдання способом мозкового штурму з залученням багатьох копій самого себе; надшвидкісні обчислення; здатність працювати без перерв та вихідних; можливість імітації дружелюбності або власної смерті тощо. Те, що створено штучним інтелектом, може бути зовсім або частково не зрозумілим людині: наприклад, алгоритми, які були розроблені професором Стенфордського університету, піонером у використанні генетичного програмування для оптимізації складних проблем, творцем скретч-карти Джоном Коза, десятки разів самостійно повторно відтворювали винаходи, які вже були раніше запатентовані, а інколи пропонували додаткові компоненти, з якими пристрої працювали краще, ніж запропоновані винахідниками-людьми. Професора математики Вернора С. Вінджа турбує “шлюб”, що формується між людьми та комп’ютерами на просторах мережі Інтернет, якому він запропонував назву Цифрова Гея.

Робототехніка та її програмне забезпечення стають дедалі більше укладнюватися. За законом Мура (емпіричне спостереження, зроблене в 1965 році, через шість років після винаходу інтегральної схеми, одним із засновників компанії Intel Гордоном Муром), кожні 18 або 24 місяця відбувається подвоєння кількості транзисторів на нових кристалах мікропроцесорів. Час, коли людство буде поділяти середовище свого існування зі штучним інтелектом, неминуче наближається. Штучні та біологічні об’єкти невдовзі складно буде відрізнити один від одного. Віртуальні світи стануть більш захоплюючими, ніж реальне оточення. Жодна країна або корпорація не відмовиться від досліджень штучного інтелекту, якщо сподіватиметься на певні переваги та побоюватиметься конкурентів. Він може виявитися більш небезпечним, ніж будь-яка сучасна зброя. Але для того, щоб штучний інтелект спричинив невідворотну шкоду, достатньо навіть і банальної недбалості.

Висновки. Враховуючи вищевикладене, вбачаються підстави до наступних висновків та деяких пропозицій. Дослідження в сфері робототехніки та їх втілені результати вже сьогодні значною мірою впливають на життя сучасних суспільств. Можливість створення штучного інтелекту, який дорівнює інтелекту людини або перевищує його, є доволі реальною та такою, що може бути досягнута у найближчому майбутньому, у найближчі десятиріччя. Неминуче наближається час, коли людство буде поділяти середовище свого існування зі штучним інтелектом.

Доволі реальною та перспективною вбачається можливість визнання штучного інтелекту суб’єктом правовідносин, наділення його правовим статусом “електронної особистості ”. Цілком реальною є перспектива застосування до штучного інтелекту заходів кримінально-правового характеру, поява у зв’язку з цим в Особливій частині КК України розділу під умовною назвою XIV-2 “Заходи кримінально-правового характеру щодо електронних осіб”. Роздуми щодо відповідальності штучного інтелекту мають сенс тільки в тому випадку, якщо людство збереже контроль над останнім.

Share