Ювал Ной Харарі: як Великі дані можуть знищити демократію?

Ювал Ной Харарі, ізраїльський історик та автор книг: «21 урок для 21 століття», «Homo Deus. Людина божественна: За лаштунками майбутнього», «Людина розумна. Історія людства від минулого до майбутнього».

У розмові з ведучим програми TED Radio Hour на NPR Ґаєм Разом, ізраїльський історик та публіцист Ювал Ной Харарі ділиться своїми поглядами на наслідки розвитку Штучного інтелекту (ШІ) та Великих даних. Ми пропонуємо вам ознайомитися з перекладом цієї розмови та написати власну думку стосовно припущень Харарі у коментарях.

Раз (ведучий): Чи могли б ми на мить просто визнати, що такі речі, як великі дані та ШІ, стануть революційними? Я маю на увазі, що вони збираються змінити все.

Харарі: Так, майже в усіх напрямках застосування, і перспективи просто неймовірні.

Р: Це Ювал Ной Харарі, історик та публіцист.

Х: Тож за 30 років штучний інтелект та біометричні датчики можуть забезпечити навіть найбіднішим людям суспільства набагато кращу медичну допомогу, ніж найбагатші люди отримують нині. Навряд чи ви можете уявити систему, чи то зв’язок, трафік чи електроенергетичні мережі, яка б не отримала вигоди від такого роду іновацій.

Р: Але на ваш погляд, у ширших масштабах, ШІ та Великі дані можуть вплинути на політичну владу, що призведе до неочікуваних та небажаних наслідків.

Х: Усе більше і більше урядів приходять до висновку, що це нагадує промислову революцію 19 сторіччя. Хто б не став лідером з використання ШІ, він буде мати критичну перевагу у всьому світі.

Як ШІ може зруйнувати ліберальну демократію майбутнього

“Можливо, диктатор не зможе надати мені належного медичного обслуговування, але він зможе змусити мене ним захоплювати та ненавидіти опозицію.”

– Ювал Ной Харарі

Харарі: Якщо поглянути на межу між комунізмом і лібералізмом, ви можете сказати, що це було зіткнення між двома різними системами обробки даних та прийняття рішень. Ліберальна система, по суті, є розподіленою системою. Вона розподіляє інформацію та повноваження приймати рішення між багатьма людьми та організаціями. На відміну від них, комунізм та інші диктаторські системи централізуються. Вони концентрують усю інформацію та владу в одному місці, як у Москві у випадку Радянського Союзу.

Раз: Так.

Х: Тепер, з огляду на технології 20 століття, вона була просто неефективною, оскільки ніхто не мав можливості обробляти всю інформацію досить швидко та приймати правильні рішення – я маю на увазі, скільки капусти потрібно вирощувати в Радянському Союзі. Скільки машин будувати – скільки буде коштувати кожна машина? Ми намагалися приймати всі ці рішення в одному місці, коли у вас є лише друкарські машинки та картотеки, ручка та папір та подібні речі. Це просто не спрацьовує.

І це є однією з головних причин, якщо не головною причиною розпаду Радянського Союзу. Отже, все це насправді було результатом панівних технологічних умов.

Р: Однак ці технологічні умови, вочевидь, змінилися. Ось більше від Ювала Ноя Харарі на сцені TED.

Х: У 20 столітті демократія та капіталізм перемогли фашизм та комунізм, оскільки демократія краще обробляла дані та приймала рішення. Але не існує жодного закону природи, який би казав, що централізована обробка даних завжди менш ефективна, ніж обробка розподілених даних. З розвитком штучного інтелекту та машинного навчання може стати можливим дуже ефективно обробляти величезні обсяги інформації в одному місці, і тоді централізована обробка даних буде ефективнішою, ніж обробка розподілених даних.

Найбільша небезпека, з якою зараз стикається ліберальна демократія, полягає в тому, що революція в інформаційних технологіях зробить диктатури ефективнішими за демократії, і тоді основна перешкода авторитарних режимів у 20 столітті – їхні намагання сконцентрувати всю інформацію в одному місці – стане їхньою найбільшою перевагою.

Р: Отже, ви хочете сказати, що загроза ліберальній демократії зростає в міру того, як покращується здатність машин обробляти все більші обсяги даних?

Так, багато в чому. Тож у 20 столітті прихильникам ліберальної демократії було якось відносно легко, бо нам не доводилося вибирати між етикою та ефективністю. Найетичніше, що потрібно було зробити, було також найефективнішим. Надати владу людям, дати свободу людям – все це було добре як з етичної, так і з економічної точки зору.

І більшість урядів світу, які лібералізували своє суспільство за останні кілька десятиліть, – вони думали, якщо ми хочемо таку ж успішну економіку, як економіка США чи Німеччини, нам потрібно лібералізувати наші суспільства. Тож, навіть якщо нам не дуже подобається цей шлях, ми повинні це робити. Але що станеться, якщо раптом правила змінились? Це все ж найкраще робити з етичної точки зору – захищати приватне життя та права людей. Але це вже не найбільш ефективний шлях.

Може виявитися, що найефективніше, що можна зробити, це створити гігантські бази даних, які повністю ігнорують конфіденційність та права людей. І це найефективніше, що можна зробити, щоб дозволити алгоритмам приймати рішення від імені людей. Алгоритми вирішать, кого приймати до університетів. Алгоритми підкажуть, що вивчати та де жити, і навіть – з ким одружитися. І якщо це найефективніший шлях, що станеться з ідеалами свободи, правами людини та індивідуалізмом? Усі ці питання стануть більш проблематичними, ніж у 20 столітті.

Ще однією технологічною небезпекою, яка загрожує майбутньому демократії, є злиття інформаційних технологій з біотехнологіями, що може призвести до створення алгоритмів, які знають мене краще, ніж я сам. І коли у вас є такі алгоритми, зовнішня система, подібно до уряду, може не лише передбачити мої рішення, вона також може маніпулювати моїми почуттями, моїми емоціями. Можливо, диктатор не зможе надати мені належного медичного обслуговування, але він зможе змусити мене ним захоплювати та ненавидіти опозицію.

“Щойно у вас з’являється система, яка може розшифрувати людську операційну систему, вона може передбачати людські рішення, а також маніпулювати людськими бажаннями та почуттями.”

– Ювал Ной Харарі.

Противники ліберальної демократії, вони мають методику. Вони зламують наші почуття, не наші електронні листи чи банківські рахунки – вони зламують наші почуття страху, ненависті та марнославства, а потім використовують ці почуття для поляризації та знищення демократії зсередини, оскільки, врешті-решт, демократія не заснована на людській раціональності. Вона заснована на людських почуттях. Під час виборів та референдумів вас не запитують, що ви думаєте? Вас насправді запитують, що ви відчуваєте? І якщо хтось зможе ефективно маніпулювати вашими емоціями, демократія стане емоційним ляльковим шоу.

Р: Отже, ваш висновок такий: той, хто контролює дані, контролює людей.

Х: Так, і якщо ви почнете з розуміння того, що, принаймні згідно з наукою, наші почуття не представляють якоїсь містичної вільної волі. Вони представляють біохімічні процеси в нашому тілі та, звичайно, впливи навколишнього середовища. Тепер, що ще також потрібно пам’ятати, це те, що технічно має існувати можливість розшифрувати, “зламати” людей та людські почуття. Для того, аби зламати людину, вам потрібно багато біологічних знань і багато обчислювальних потужностей. І до сьогоднішнього дня ніхто не міг це здійснити.

Р: Так.

Х: І тому люди могли повірити, що людей неможливо зламати, що людські почуття є віддзеркаленням волі, наче ніхто ніколи не може зрозуміти мене і маніпулювати мною. І це було справедливим протягом усієї історії, але нині це вже не так. Щойно у вас з’являється система, яка може розшифрувати людську операційну систему, вона може передбачати людські рішення, а також маніпулювати людськими бажаннями та почуттями.

Я маю на увазі, що до сьогодні жоден політик насправді не мав можливості зрозуміти людську емоційну систему. Методом спроб та помилок вони бачать, що працює, і це постійно змінюється. Але якщо ми дійдемо до точки, коли зможемо надійно розшифрувати біохімічну систему людини та практично продати вам що завгодно, чи то продукт, чи політика, тоді у нас є виникає абсолютно новий тип політики.

Р: Знаєте, ви певно зустрічали людей, які допомагають створити цю технологію, – людей, які мали певне утопічне уявлення про те, як дані та обробка даних можуть змінити світ на краще, розумієте? Але часом цікаво, чи не зупиняються ті самі люди на мить порозмірковувати про непередбачувані наслідки.

Х: Розробляючи подібні технології, в більшості випадків ви, очевидно, зосереджуєтесь на позитивних наслідках. І до сьогодні людству вдавалося уникнути найгірших наслідків. Найбільш очевидний приклад – ядерна технологія. Усі пророцтва кінця світу 1950-х та 1960-х років про ядерну війну, яка знищить людську цивілізацію, так і не збулися. Людство успішно вирішило виклики ядерних технологій. Чи вдасться нам зробити це знову за допомогою ШІ та біотехнологій – питання залишається відкритим.

Р: Ювал, вам це має бути відомим, як ізраїльтянину – тому, хто живе у біблійній країні. Пророків рідко винагороджують. Насправді їх зазвичай не люблять, навіть коли вони праві. І часто, коли вони мають рацію, це не має значення, оскільки їхні застереження настільки похмурі, що ми ігноруємо їх заплющивши очі.

Х: Я точно не бачу себе пророком. І я не думаю, що хтось може пророкувати майбутнє. Насправді це безглуздо. Знову ж таки, я визначаю себе як історика. І те, що я намагаюся зробити, це визначити різні можливості. Завжди є кілька шляхів, якими ми можемо піти. І тому я вважаю важливим провести цю дискусію, тому що ми все ще маємо час.

Я вбачаю свою роботу в тому, щоби змінити дискусію сьогодення. Ми все ще можемо впливати на напрямок, у якому рухається ця технологія. Завжди існують різні можливості.

Р: Ювал Ной Харарі викладає історію в Єврейському університеті в Єрусалимі. Його остання книга називається “21 урок 21 століття”. Ви можете переглянути його повний виступ на ted.com.

Запис цієї розмови було вперше опубліковано на npr.com.

Штучний інтелект знищить чи врятує людство? Ми хочемо почути вашу думку.

Якщо ви знайшли помилку, будь ласка, виділіть фрагмент тексту та натисніть Ctrl+Enter.

7 Shares:
1 comment
  1. “демократія не заснована на людській раціональності. Вона заснована на людських почуттях.” ОСЬ ТУТ ОСЬ велика помилка, тому що демократія якраз заснована на такому недослідженому, але дуже потужному феномені як “мудрість натовпу”. А мудрість рідко має щось спільне з почуттями!

Залишити відповідь

Ваша e-mail адреса не оприлюднюватиметься. Обов’язкові поля позначені *

Перегляньте також