Коли можна перевершити інших — уривок з книги Елізара Юдковскі «Неадекватна Рівновага»

10.11.2019 Pavlov Developer

Коли можна перевершити інших — уривок з книги Елізара Юдковскі «Неадекватна Рівновага»

10 Ноября, 2019,
11:00





2

Спільнота «Що біткоїться» випустила аматорський переклад безкоштовної книги «Неадекватна Рівновага» Елізара Юдковскі, відомого за роботою «Гаррі Поттер і методи раціонального мислення».

Книга присвячена економіці та застосуванню теорії ігор. Редакція AIN.UA наводить уривок із першого розділу під назвою «Неадекватність та скромність». Повний переклад доступний за посиланням.


Ця книжка — про два несумісних погляди на одвічне питання «Коли мені необхідно думати, що я можу зробити щось незвичайно добре?».

Ці дві точки зору, як правило, дають цілковито різний, майже когнітивно не співпадаючий аналіз таких питань, як: 

  • Мій лікар каже, що мені потрібно менше їсти та почати займатися фізичною активністю, але багато освічених на перший погляд економістів-блогерів розповідають про штуку під назвою «дієта Шангрі-Ла». Вони кажуть, що задля схуднення потрібно лише споживати велику кількість позбавленої смаку висококалорійної їжі у визначений час дня; і вони стверджують, що за допомогою такої дієти можна досягти небачених результатів. Чи можуть вони дійсно знати краще, ніж мій лікар? Чи можу я сказати, що їм це вдалося? 
  • Моя повсякденна робота — штучний інтелект (ШІ) і теорія прийняття рішень. І я згадую темні дні до 2015 року, коли було витрачено багато зусиль і уваги, спрямованих на просування сучасних можливостей штучного інтелекту, але майже жоден з них не був спрямований на узгодження цілей людини і ШІ: краще розуміння розробки ШІ та цілей, які можна сміливо масштабувати з можливостями. Хоча з тих пір інтерес до проблеми узгодження значно зріс, все ж має сенс задатися питанням, чи варто мені було тоді зробити висновок (через нестачу наукової діяльності), що по даному питанню не було продуктивної роботи для виконання; бо якби там були легкодоступні плоди, хіба вчені б уже не зірвали їх
  • Чи повинен я спробувати стати підприємцем? Незалежно від того, чи буде важко виявити перспективні ідеї в науковій галузі, чи ні, та придумати прибуткову ідею для нового стартапу, звичайно, нелегко. Чи вдастся мені знайти якісь гарні ідеї, які лишаються нішовими
  •  Спільнота ефективного альтруїзму — це мережа філантропів і дослідників, які намагаються знайти найкращі методи принести користь іншим з кожного витраченого долара, якщо говорити узагальнено. Де таким альтруїстичним організаціям, як GiveWell, шукати перспективні низько висячі плоди — обділені увагою заходи з гарним потенціалом? Де вони мають знайти ті речі, якими наша цивілізація ще не займається, і які дійсно можна зробити?

Коли я міркую про такі проблеми, то використовую те, що мені здається природним узагальненням економічної ідеї ефективних ринків. Мета полягає в тому, щоб передбачити, якого роду ефективність ми повинні очікувати від існування поза межами ринку, і який висновок ми можемо зробити з простих спостережень. За відсутності кращого терміну, я назву такий тип мислення аналізом неадекватності

В кінці цієї книги я спробую спростувати альтернативну точку зору, яка стає дедалі популярнішою серед деяких моїх друзів і яка, на мій погляд, є недостатньо аргументованою. Ця точку зору, яку я раніше назвав «скромністю», як правило, звучить так: «Ти не можеш очікувати, що зробиш X, який раніше нікому не був під силу, тому що ти можеш просто обманювати себе, думаючи, що ти кращий за інших людей». 

Я почну з ретельно підібраного прикладу, який, як мені здається, допоможе підкреслити відмінність між цими двома точками зору. 

Коли можна перевершити інших — уривок з книги Елізара Юдковскі «Неадекватна Рівновага»

I

Одного разу я написав звіт «Інтелектуальний вибух мікроекономіки», який закликав провести оцінку темпів економічного зростання в повністю розвиненій країні, тобто країні, яка більше не в змозі підвищувати продуктивність тільки за рахунок імпорту апробованих інновацій. У виносці до звіту наголошується, що, хоча Японія є країною з найбільш передовими технологіями (для прикладу — їх мобільні телефони і технології віртуальної реальності на п’ять років випереджають інші країни світу), я не збирався використовувати Японію в якості свого оцінювача економічного зростання, оскільки, як мені здається, грошова політика Японії була цілком божевільною. 

Простіше кажучи, центральний банк Японії не створював достатньо грошей. Тут я не буду вдаватися в подробиці. 

Мій друг (давайте називати його просто — «Джон») і один з найбільш обережних мислителів, яких я знаю, прокоментував мою чернетку на даний рахунок: 

Як ти можеш таке стверджувати? Я тобі зараз назву безліч інших причин, через які Японія може перебувати в стані спаду: скорочення і старіння населення країни, низька частка жінок на робочих місцях, високий рівень регулювання товарного ринку тощо. Схоже, що ти виходиш за рамки своєї компетенції і це не приносить гарних результатів. 

«Як ти можеш таке стверджувати?» — дуже резонне питання. Як пізніше Джон пояснив, макроекономіка — це область, в якій набори даних, як правило, розріджені, а прогностична ефективність дуже низька. І Джон вже бачив, як я робив опозиційні заяви, в яких я сильно помилявся, наприклад, підтримував теорії Ґері Таубса про причини епідемії ожиріння. Зовсім недавно Джон виграв у мене гроші, поставивши на те, що ефективність ШІ по певним показниках буде зростати швидше, ніж я очікував. Як бачите, Джон має чудовий послужний список, коли йдеться про виявлення моїх помилок. 

Також легко уявити причини, через які спостерігач може бути скептичним. Я не самостійно придумував свою критику Японії, я читав статті інших економістів і вирішив, що довіряю тим, хто сказав, що Банк Японії робить невірні кроки… Однак можна було б сподіватися, що до складу ради керівників Банку Японії увійдуть досвідчені економісти зі спеціалізованими знаннями в області грошово-кредитної політики. Яка ймовірність того, що будь-який сторонній зможе виявити очевидний недолік в їх політиці? Яка ймовірність того, що хтось, хто не є професійним економістом (наприклад, я), зможе судити, яка економічна критика Банку Японії була правильною, а яка — мудрою? 

Наскільки ймовірно, що ціла країна, одна з найрозвиненіших в світі, відмовиться від реального економічного зростання на трильйони доларів через те, що її валютні регулятори — не політики, а призначені представники професійної еліти — робили щось настільки погане, що навіть непрофесіонали змогли це помітити? Наскільки ймовірно, що непрофесіонал може не тільки запідозрити, що Банк Японії чинить неправильно, але і бути в цьому впевненим

Звичайно, було б більш реалістично шукати можливі причини, за якими Банк Японії може бути не настільки дурний, як це здавалося, і як стверджують деякі економісти. Можливо, старіння населення Японії унеможливлює зростання. Можливо, через величезний непогашений державний борг Японії навіть найменша інфляція стала надто небезпечною. А може, ми просто не замислюємося про складний шлях міркування, який привів Банк Японії саме до такого рішення. 

Звичайно, деяка смиренність доречна, коли критикуєш еліту, яка приймає рішення в управлінні Банком Японії. Та що, якщо саме ви приймаєте такі рішення, а не кваліфіковані економісти, яким не вдалося зрозуміти відповідних економічних міркувань? 

Я буду називати цю категорію аргументів «скромною епістемологією». 

Під час нашої розмови Джон пояснив мені, що відкидає таку категорію аргументів, але ж я досить часто її чую. Керівник організації ефективного альтруїзму одного разу озвучив те, що я вважаю чудовим прикладом такого способу мислення: 

Я вважаю корисним визнати неприємні факти, які обов’язково будуть абстрактно вірними, щоб бути готовим визнати їх в конкретних випадках. Наприклад, я маю очікувати, що апріорі я матиму рівень здібностей нижче середнього в половині випадків, і в 50%, скоріш за все, буду нижче середнього рівня всіх здібностей загалом; також я маю знати багатьох людей, яких я вважаю кращими за мене відповідно до моїх принципів; регулярно приймати рішення, які виглядають безглуздо як фактично, так і заздалегідь; помилятися в питаннях, відносно яких експерти розходяться в думках десь в половині випадків; погано щось робити вперше тощо. 

Ефект Даннінга-Крюгера показує, що не некваліфіковані фахівці в більшості випадків надто високо оцінюють свої здібності. Зокрема, хоча існує тенденція до кореляції між тим, наскільки насправді компетентна людина і наскільки компетентною вонасебе вважає, ця кореляція слабша, ніж можна припустити. У первинному дослідженні, люди в двох нижніх квартилях фактичних результатів тестування схильні думати, що вони показали кращі результати, ніж близько 60% учасників, в той час як люди в двох верхніх квартилях схильні думати, що вони показали кращі результати, ніж 70% учасників. 

Це значить, що типові припущення людини про те, як вона пройшла тест, хоч і можна назвати свідченням, але не особливо переконливим: верхній квартиль недостатньо впевнений в тому, наскільки добре він впорався, а ось нижні квартилі — занадто самовпевнені. 

З урахуванням вищесказаного, як ми можемо отримати достатньо свідчень того, що ми дійсно кваліфіковані в певному питанні? Чи не було б більш розумним нагадати собі про базовий відсоток — апріорну ймовірність в 50%, що ми нижче середнього? 

Керуючись аналогічними міркуваннями, розробник програмного забезпечення Гарольд Фінні підтримав «відмову від особистої позиції відносно переважної кількості питань на користь думки більшості». Фінні зазначає, що думка середньостатистичної людини була б більш точною (в середньому), якщо б всі рахувалися з найбільш популярною позицією по більшості питань. З цієї причини: 

Я вважаю за краще дотримуватися загальної думки по більшості питань, адже середньостатистична думка людства буде кращим і менш упередженим шляхом до істини, ніж моє власне судження. 

[…] Я б порекомендував, щоб ця позиція була за замовчуванням, незважаючи на те, що не завжди хочеться покладатися на думку більшості. Замість того, щоб починати з припущення про те, що власна думка є правильною, а потім намагатися з’ясувати, чи є у більшості вагомі причини дотримуватися будь-якої іншої точки зору, слід почати з того, щоб слідувати думці більшості; і лише потім приймати іншу точку зору тільки з вагомих і переконливих причин. У більшості випадків найкращим підходом буде автоматично надавати перевагу більшості. Якщо ми погодимося з принципом, згідно якого «надзвичайні твердження вимагають надзвичайних свідчень», ми повинні вимагати високого ступеня обґрунтованості відходу від думки більшості. Факту, що наша власна думка здається аргументованою, було б недостатньо. 

Саме таким чином Фінні сподівався боротися зі самовпевненістю та егоцентричними упередженнями. 

Думка Фінні — хоч і крайній випадок, але допомагає проілюструвати модель, яку, як мені здається, можна знайти в деяких більш скромних і широко схвалених точках зору. Коли я говорю про «скромність», я маю на увазі досить різноманітний набір позицій, заснованих на подібному наборі аргументів і мотивацій. 

Одного разу я чув, як прихильник ефективного альтруїзму в Оксфорді чітко підсумував те, що я вважаю головним аргументом на користь такої перспективи: «Ви бачите, що хтось каже X, що здається неправильним, тому ви зробили висновок, що їх епістемічні стандарти погані. Але вони також можуть побачити, що ви говорите Y, що звучить для них неправильно, і зробити висновок, що це ваші епістемічні стандарти погані» [2]. Таким чином, сам факт незгоди з вами не надає жодної інформації про те, хто має кращі епістемічні стандарти. Зрештою, інша сторона зауважує точно такий самий факт незгоди. 

Застосовуючи таку форму аргументації на прикладі Банку Японії: Якщо я просто спостерігатиму, як Банк Японії казатиме «Х«, коли я вірю в «не Х«, то я отримаю мало свідчень, або зовсім їх не отримаю. Я не отримаю переконливих доказів того, що я незвичайно компетентний, від будь-якого враження на об’єктному рівні. Чи значить це, що моя апріорна інформація мала на увазі, що я і лише я мав народитися з дивовижною розважливістю? (Скромні люди задавали мені конкретно це питання не раз.) 

Звісно, я б не так пояснив свої власні міркування. Але якщо я відкидаю аргументи форми: «Ми ніяк не дійдемо з тобою до згоди, і тому я маю рацію, а ти — ні», як я можу стверджувати, що маю рацію в економічному питанні, де я не погоджуюсь з такою авторитетною установою, як Банк Японії? 

Інша точка зору, протилежна скромності — точка зору, яка, на мій погляд, прописується в нормативній епістемології (а також в більш-менш поширеній мікроекономіці) — вимагає більш тривалого знайомства. 

II

За давньою традицією, кожне пояснення Гіпотези Ефективних Ринків має починатися з наступного жарту: 

Два економісти йдуть по вулиці, і тут один каже: «Оп, хтось загубив $20!», а інший: «‘Та це не можуть бути справжні $20, тому що хтось їх вже підібрав би». 

Також за давньою традицією, наступний крок пояснення полягає в тому, що хоча підібрати $20, які ви бачите на відносно безлюдній вулиці, може і реально, але якщо $20 вже декілька годин лежать на підлозі Центрального вокзалу Нью-Йорка, то, скоріш за все, це фальшива купюра, або ж вона просто приклеєна до підлоги. 

У реальному житті, коли я провів опитування групи з двадцяти відносно молодих людей, скільки з них коли-небудь знаходили на вулиці $20, п’ятеро підняли руки, і тільки одному з них пощастило знайти двадцятку двічі. Так що емпірична правда про жарт в тому, що поки $20 посеред вулиці дійсно існують, вони — рідкісне явище. 

З іншого боку можна виділити підтекст, що якщо ви знайдете на вулиці $20, ви маєте підійти і забрати їх, тому що це відбувається насправді. І даний випадок не така вже й рідкість. І, звичайно, не варто починати мучитися через те, що занадто самовпевнено вірити, що ви маєте більш гострий зір, ніж у всіх, хто недавно йшов по вулиці. 

А якщо поглянути на цю історію під іншим кутом, то ви повинні почати страждати на рахунок того, чи варто довіряти власним розумовим процесам, якщо ви думаєте, що бачили $20, які вже кілька годин лежать на підлозі Центрального вокзалу Нью-Йорка. Особливо якщо ваше пояснення полягає в тому, що більше ніхто не хоче цих грошей. 

Чи існує якась інша подібна область, де, якщо ми вважаємо, що бачимо придатну можливість, ми повинні скоріш засумніватися в своїй власній психічній компетентності, ніж довіряти висновкам, до яких ми прийшли? 

Якби мені довелося назвати єдине епістемічне досягнення, при якому сучасна людська цивілізація найбільш адекватна, тобто досягає піку всієї людської сили судження, я б без коливань відповів: «Короткострокове відносне ціноутворення ліквідних фінансових активів, наприклад, ціна 500 акцій S&P відносно ціни на них впродовж наступних трьох місяців». Це те, у що людська цивілізація вкладає реальні зусилля.

  • Мільйони доларів пропонуються розумним, чесним людям з докторським ступенем в галузі фізики, щоб спонукати їх до роботи в цій галузі. 
  • Потім цим людям пропонуються величезні додаткові виплати за умови досягнення ними реальних результатів, особливо якщо мова йтиме про набагато вищі результати у порівнянні початковою точкою [3]. 
  • Великі корпорації утворюються задля спеціалізації на вузьких аспектах узгодження ціни. 
  • У них величезні обчислювальні кластери, масштабні історичні масиви даних і компетентні фахівці з машинного навчання. 
  • Вони безперебійно отримують новини про успіх чи невдачу в швидкому циклі зворотного зв’язку [4]. 
  • Механізм агрегації знань, а саме ціни, що забезпечують рівновагу пропозиції і попиту на фінансові активи, довів свою ефективність і служить для узагальнення мудрості всіх цих високомотивованих суб’єктів. 
  • Учасник, який виявив 1%-систематичну помилку в сумарній оцінці, отримує винагороду в розмірі мільярда доларів — під час процесу, який також коригує оцінку. 
  • Бар’єри для входу не нульові (ви не можете отримати позики для того, щоб зробити корекцію на мільярд доларів), але існують тисячі різних інтелектуальних гравців, кожен з яких може самостійно виявляти помилки, виправляти їх і отримувати винагороду, без центрального вето. 

Це, звичайно, не ідеально, але в буквальному сенсі так само непогано, як і на сучасній Землі

Я не думаю, що зможу перевершити оцінки, отримані в результаті цього процесу. У мене немає ніякої суттєвої допомоги, щоб зробити свій внесок в цю справу. Покладаючись на навчання і власні зусилля, я можу стати гідним власником хедж-фонду і отримати стандартний прибуток. Теоретично, ліквідний ринок має бути в достатній мірі придатним для того, щоб оплатити компетентним фахівцям таку ж погодинну ставку, яку їм можуть запропонувати альтернативні варіанти.

Потенційно я міг би стати одним з таких професіоналів і отримувати стандартний дохід від хедж-фондів, але це не те ж саме, що значно підвищувати ефективність ринку. Я не впевнений, що розраховую на існування величезної, по-людськи доступної можливості такого типу, тим паче в густоторгових точках ринку. Хтось дійсно б уже скористався такою нагодою! Нашу цивілізацію хвилює, скільки будуть коштувати акції Microsoft завтра пообіді — $37,70 чи $37,75? 

Я не можу передбачити зростання акцій Microsoft на 5% в найближчі два місяці. Власне, ви також. Якщо ваш дядько розповість анекдот про те, як він потроїв свої інвестиції в NetBet.com в минулому році, і припише це своїм вмінням, а не щасливому випадку, ми негайно і без зайвих слів дізнаємося, що він помиляється. Уоррен Баффетт у свій самий вдалий період не міг гарантовано потроювати свої гроші щороку. Якби стратегія була настільки проста, що ваш дядько зміг би її зрозуміти і в результаті збільшити свої статки, то ми б припустили, що в стратегію були закладені приховані ризики, і що через рік або за менш сприятливих обставин він би втратив в два рази більше, ніж отримав. Будь-яка інша можливість була б еквівалентна 20-ти доларовій купюрі, що лежить на підлозі Центрального вокзалу уже десять років, незважаючи на те, що орда докторів наук в області фізики шукала її за допомогою неозброєного ока, мікроскопів і машинного навчання. 

У густоторгових частинах фондового ринку, де колективна сила людської цивілізації дійсно найсильніша, я знімаю капелюха, відкладаю свою гордість в бік і схиляю коліно в повній смиренності, щоб прийняти переконання ринку, як ніби вони належать мені, знаючи, що будь-який імпульс до сумніву і кожна незалежна думка, яку я повинен доводити інакше, не більше ніж моя власна дурість. Якщо мої уявлення припускають існування придатної можливості, то, швидше за все, мої уявлення ще більш помилкові, ніж уявлення про ринки. Ось що значить дивитися на цивілізацію, коли вона робить щось адекватне. 

Зворотний бік перспективи ефективних ринків промовив би наступні слова відносно Банку Японії: 

ТРАДИЦІЙНИЙ ЕКОНОМІСТ-ЦИНІК: Значить, Елізере, ти думаєш, що знаєш краще, ніж Банк Японії та більшість інших центральних банків по всьому світу, чи не так? 

ЕЛІЗЕР: Ага. Або краще було б сказати, що читаючи економічні блоги, я вважаю, що сам можу визначити блогерів-економістів, які знають краще. В якості прикладу можу навести Скотта Самнера. 

Т.Е.Ц.: Навіть якщо трильйони доларів реальної цінності на кону? 

ЕЛІЗЕР: Ага. 

Т.Е.Ц.: Чи можеш ти заробляти гроші своїми особливими знаннями? 

ЕЛІЗЕР: Не можу. Ринок також знає, що Банк Японії проводить кепську грошово-кредитну політику і вже встановив відповідну ціну на японські акції. Так що, хоча я знаю, що політика Банку Японії змусить японські акції дуже слабо торгуватися, цей факт вже закладений в ціну; я не можу розраховувати на те, що зароблю грошей на короткострокових інвестиціях в японські акції. 

Т.Е.Ц.: Зрозуміло. Так хто ж саме, по цій твоїй теорії, дурний і пропускає передбачувану виплату? 

ЕЛІЗЕР: Звісно ж, що ніхто! Контролювати лінію тренда грошової маси Японії дозволено тільки Банку Японії, а коли японська економіка поліпшується, то бонуси управлінцям Банку Японії все одно не виплачуються. Тобто, якщо японська економіка виросте на трильйон доларів, вони не отримають персонального бонусу в мільйон доларів. 

Т.Е.Ц.: Виходить, ти не можеш заробляти гроші своїми цінними знаннями, і ніхто, хто має реальну владу і повноваження для вирішення проблеми, не отримає особистої фінансової вигоди від її рішення? Тоді ми закінчили! Немає ніяких аномалій; все звучить абсолютно нормально. 

Зазвичай ми не очікуємо побачити посеред вулиці купюру в $20, бо навіть якщо люди іноді їх гублять, у когось іншого зазвичай вищі шанси підібрати їх до нас. 

Ми не думаємо, що зможемо передбачити 5% зміни цін на акції S&P 500 протягом наступного місяця, тому що ми конкуруємо з десятками менеджерів хедж-фондів з величезними суперкомп’ютерами і докторами наук в області фізики, кожен з яких може заробити мільйони чи мільярди на помилці ціноутворення шляхом її виправлення. 

Нам можна очікувати, що буде складно придумати дійсно хорошу ідею для стартапа, і навіть кращі ідеї примушують ризикувати і сильно пітніти, тому що багато інших людей також намагаються конкурувати з нами. Хоча в цьому випадку у нас є перевага, і ми можемо самі обрати власну битву, знайти однухорошу ідею, яка, на нашу думку, ще не реалізована. 

Але Банк Японії — це єдиний комітет, і ніхто інший не може втрутитися і заробити мільярд доларів, виправивши їх помилку. Навіть якщо ви впевнені в тому, що Банк Японії діє неправильно, ви не можете заробити на цьому. Принаймні, деякі менеджери хедж-фондів також знають, що Банк Японії припускається помилки, і уже включили очікувані наслідки в ринкову ціну. Та зміна цін також не виправляє неправильну поведінку Банку Японії. Таким чином, їх помилка може зберігатися залежно від слабких стимулів або інших систематичних недоліків.

В результаті, коли я прочитав деяких економічних блогерів, то я не особливо опирався їм вірити, адже вони зробили правильні емпіричні прогнози, перш ніж сказати, що Японія веде себе абсурдно, і така економічна логіка здалася мені зрозумілою. В стандартній економічній теорії, яка узагальнена за межами ринків і розповсюджується на інші аспекти суспільства, мені не здалося очевидним, що Банк Японії має діяти мудро на благо своєї країни. Не було б нічого дивного, якби вони дійсно були майстрами своєї справи, але й не особливо дивує те, що вони можуть бути некомпетентними. І знаючи це все, я все одно не міг отримати додатковий прибуток, і це також не було збігом. 

Таке мислення може стати складнішим, ніж можна було припустити з попередніх параграфів. Виникає питання, чому японський уряд не чинив ніякого тиску на Банк Японії (відповідь: тиснув, але Банк Японії відмовився), і ще багато інших питань. Щоб упевнитися, що ви розумієте загальну ситуацію з Банком Японії, вам потрібно буде розглянути набагато ширшу модель світу і доповнити її великим об’ємом базової теорії. 

Та навіть без такого детального аналізу, на епістемологічному тлі ми маємо зовсім іншу картину, ніж на скромному. У нас є певна картина світу, в якому цілком правдоподібно, що економіст-блогер може написати вдалий аналіз неправильних дій Банку Японії, а обізнаний читач погодиться з тим, що даний аналіз переконливий, без жахливо болісного нападу сумнівів в собі, натхненного ефектом Даннінга-Крюгера, який відіграє якусь важливу роль в аналізі. 

Источник