Читати книгу - "Homo Deus"

обережними, усе ж не обходиться без жертв з боку цивільного населення. Комп’ютерні програми з етичними алгоритмами можуть значно легше пристосуватися до останніх рішень міжнародного кримінального суду.

В економічній сфері здатність тримати молоток чи натискати на кнопку стає також дедалі менш потрібною, аніж раніше, що загрожує критичному союзу лібералізму і капіталізму. У XX столітті ліберали пояснювали, що ми не повинні вибирати між етикою й економікою. Захист прав і свобод людини був одночасно з моральним імперативом, і ключем до економічної) розвитку. Британія, Франція і Сполучені Штати начебто процвітали завдяки тому, що лібералізували свою економіку й суспільство, і якщо Туреччина, Бразилія чи Китай хотіли стати такими самими процвітаючими, вони мусили зробити те саме. У багатьох, якщо не в більшості, випадках саме економічний, а не моральний аргумент схиляв тиранів і хунти до лібералізації.

У XXI столітті лібералізму буде значно важче продавати себе. Оскільки маси втрачають своє економічне значення, чи буде достатньо лише морального аргументу, щоб захистити права і свободи людини? Чи й надалі еліти та уряди цінуватимуть кожне людське життя, навіть якщо воно не приносить жодних економічних дивідендів?

У минулому було багато того, що могли робити лише люди. Однак нині роботи й комп’ютери перехоплюють їхню роботу і можуть дуже скоро перевершити людей у виконанні більшості завдань. Дійсно, комп’ютери функціонують зовсім інакше, аніж люди, і навряд чи комп’ютери стануть подібними до людей у найближчому майбутньому. Зокрема, не схоже, щоб у комп’ютерів з’явилася свідомість і вони почали проявляти емоції й почуття. За останні півстоліття відбулися значні зрушення у створенні комп’ютерного інтелекту, однак говорити про наявність комп’ютерної свідомості поки що не доводиться. Як ми знаємо, комп’ютери У 2016 році не свідоміші, ніж їхні прототипи в 1950-х роках. Однак ми перебуваємо на краю миттєвої революції. Людям загрожує втрата економічного значення, бо інтелект відділяється від свідомості.

До сьогодні високий інтелект завжди йшов поруч із розвиненою свідомістю. Лише наділені свідомістю істоти можуть виконувати завдання, що потребують високого інтелекту, як, наприклад, гра в шахи, кермування автомобілем, діагностування хвороб чи розпізнавання терористів. Однак нині ми розробляємо нові типи інтелекту, позбавленого свідомості, який може виконувати ці завдання значно краще, ніж люди. Адже всі ці завдання засновано на розпізнаванні структур, і позбавлені свідомості алгоритми незабаром можуть перевершити людську свідомість у такому розпізнаванні.

Кінематографічна фантастика загалом припускає, що для того, аби відповідати людському інтелекту і навіть перевершувати його, комп’ютери муситимуть розвинути свідомість. Однак реальна наука свідчить про інше. Можуть існувати кілька альтернативних шляхів до суперінтелекту, з яких лише частина передбачатиме наявність свідомості. Адже мільйони років органічна еволюція повільно рухалася по траєкторії розвитку свідомості. Еволюція неорганічних комп’ютерів може повністю обігнати цю звужену традиційність, беручи інший, значно швидший курс до суперінтелекту.

Це ставить нове запитання: що справді важливіше — інтелект чи свідомість? Поки вони нерозривно йшли разом, обговорення їхньої відносної цінності було розвагою для філософів. Однак у XXI столітті це стає нагальним політичним та економічним питанням. І приголомшує розуміння того, що принаймні в арміях і корпораціях відповідь буде проста: наявність інтелекту обов’язкова, а свідомості — ні.

Армії й корпорації не можуть функціонувати без інтелектуальних агентів, однак їм не потрібна свідомість і суб’єктивне сприйняття. Свідоме сприйняття таксиста з плоті й крові нескінченно багатше, аніж самокерованого автомобіля, що не відчуває нічого. Таксист може насолоджуватися музикою, проїжджаючи зайрудженими автомобілями вулицями Сеула. Його розум може відчувати захват, коли він спрямовує свій погляд на зірки й розмірковує про дива Всесвіту. Його очі можуть сповнюватися сльозами радості, коли він спостерігатиме, як його маленька донечка робить перші кроки. Однак система не вимагає нічого цього від таксиста. Усе, чого вона хоче, — доставити пасажира з пункту А в пункт Б максимально швидко, безпечно й недорого. І автономний автомобіль незабаром зможе робити це значно краще, аніж людина-таксист, навіть якщо він не може насолоджуватися музикою чи захоплюватися магією існування.

Пригадаймо долю коней в часи Промислової революції. Звичайний сільський кінь може обнюхувати, любити, розпізнавати обличчя, стрибати через перешкоди й робити тисячі інших справ значно краще, аніж «Форд» моделі Т чи «Ламборґіні» за мільйон доларів. А втім, автомобілі замінили коней, бо вони були значно кращими для виконання кількох функцій, яких дійсно потребувала система. Цілком імовірно, що й таксисти підуть шляхом коней.

Дійсно, якщо ми заборонимо людям керувати не лише таксі, а й узагалі транспортними засобами, і віддамо комп’ютерним алгоритмам монополію на дорожній рух, то зможемо під’єднати всі транспортні засоби до однієї мережі, тим самим значно зменшивши ймовірність транспортних аварій. У серпні 2015 року один з експериментальних автомобілів Google потрапив у аварію. Коли він наближався до перехрестя і побачив пішоходів, які збиралися перейти дороіу, то почав гальмувати. У наступну мить його ззаду вдарив седан, у якому безтурботний водій-людина розмірковував, мабуть, про дива Всесвіту замість того, щоб стежити за дорогою. Цього не сталося б, якби обидва автомобілі були керовані зв’язаними між собою комп’ютерами. Алгоритм, який управляв би комунікаціями, знав би позицію і наміри кожного авто на дорозі й убезпечив би двох своїх маріонеток від зіткнення. Така система зекономила би багато часу, грошей і людських життів, однак унеможливила б набуття досвіду управління автомобілем, а відтак постало б питання закрити десятки мільйонів робочих місць людини.

Деякі економісти пророкують, що рано чи пізно невдосконалені люди стануть абсолютно непотрібними. Роботи і 3D принтери вже заміняють робітників на ручних роботах — скажімо, пошитті сорочок, — і алгоритми з високим інтелектом робитимуть те саме з інтелектуальними професіями. Банківські клерки й туристичні агенти, що зовсім недавно почувалися убезпеченими від автоматизації, опинилися в небезпеці. Скільки туристичних агентів нам треба, якщо можна використати свої смартфони, щоб купити квитки на літак за допомогою алгоритму?

Брокери фондових бірж також опинилися в небезпеці. Більшість фінансових торгів нині вже здійснюються комп’ютерними алгоритмами, що за секунду можуть обробляти більше даних, аніж людина за рік, і реагувати на дані значно швидше, ніж людина кліпне. 23 квітня 2013 року сирійські хакери зламали офіційний акаунт Associated Press у Twitter. О 13:07 вони твітнули, що на Білий дім скоєно напад і президента Обаму поранено. Торговельні алгоритми, що постійно відстежують новини, миттєво відреагували й почали нестямно продавати акції. Індекс Доу-Джонса пішов у вільний політ і за шістдесят секунд втратив 150 пунктів, що еквівалентно втраті 136 мільярдів доларів! О 13:10 Associated Press виявила, що цей твіт був фальшивкою. Алгоритми перейшли на «задню передачу» і о 13:13 індекс Доу-Джонса відіграв майже всі втрати.