Парадокс Ньюкомба без Ньюкомба
Вільям Ньюкомб був фізиком у Лабораторії Лоуренса в Ліверморі і задачу так і не опублікував. Надрукував її філософ Роберт Нозік 1969 року, але назвав на честь автора.
На столі дві скриньки. У прозорій A видно $1 000. Закрита B або порожня, або в ній $1 000 000. Що в B, учора вирішила програма-провидець, яка вгадала вибір 990 людей із 1000: якщо вона передбачила, що ви візьмете лише B, то поклала туди мільйон, а якщо обидві скриньки, лишила B порожньою. Тепер уміст уже не зміниться. Ви берете лише B чи обидві? Зафіксуйте вибір, а потім зіграйте з провидцем.
Хто бере лише B, той у середньому виносить $990 000, а хто бере обидві, лише $11 000: провидець рідко помиляється. Але гроші на столі вже або лежать, або ні, і хоч би що було в B, скринька A додає ще $1 000. Обидва розрахунки правильні. Перший питає, що ваш вибір каже про вміст скриньки, другий питає, що ваш вибір у ній змінює. Тому люди й діляться майже навпіл: у великому опитуванні The Guardian 53,5% проти 46,5%.
Цю задачу придумав фізик Вільям Ньюкомб, а першим розібрав філософ Роберт Нозік. Відтоді вона ділить філософів, економістів і просто читачів на два табори, і кожен табір певен, що відповідь очевидна.
Це програма, яка вже зіграла в цю гру з 1000 людьми і правильно передбачила вибір 990 з них, тобто в 99% випадків. Як саме вона це робить, неважливо: вона просто дуже добре знає людей.
Скринька A прозора, у ній лежить $1 000. Скринька B закрита, і що в ній, не видно.
Учора, ще до вашого приходу, провидець передбачив ваш вибір. Якщо він вирішив, що ви візьмете лише B, то поклав у неї $1 000 000. Якщо вирішив, що візьмете обидві, лишив B порожньою.
Тепер уміст скриньок уже не зміниться. Ви можете взяти або лише скриньку B, або обидві, A і B. Що ви візьмете?
«Тут же все очевидно»
Більшість людей знає відповідь одразу і дивується, як можна думати інакше. Зверніть увагу, яка відповідь здається очевидною вам, і чому.
Роберт Нозік помітив дивну річ: майже кожному відповідь здається очевидною, але люди діляться майже навпіл, і кожна половина вважає, що друга просто не подумала. Насправді обидві «очевидні» відповіді спираються на правильний розрахунок, лише на різний.
Підступу в умові немає. Просто вирішіть, як вчинили б ви, коли стоїте перед цими скриньками, і зафіксуйте вибір, перш ніж читати далі.
Відповідь зараховується одразу після кліку. Передумати можна, але в статистику піде перший вибір.
Тут з'явиться, як обирають інші люди і що каже ваш вибір.
Важко вирішити? Відкривайте підказки по одній: спочатку легка, далі сильніша.
Подивіться на тих, хто вже зіграв: скільки в середньому виносять ті, хто брав лише B, і скільки ті, хто брав обидві?
А тепер подивіться на стіл: гроші в скриньці B уже лежать або не лежать. Чи може ваш вибір щось туди покласти або щось звідти забрати?
Порахуйте обидва способи для провидця, що вгадує 99%, і подумайте, на яке питання відповідає кожен.
Наступні раунди показують, чому кожен табір має свою правду: гра зі справжнім провидцем, 100 000 ігор і пояснення. Спершу зробити вибір у раунді 1 чи йти далі?
Ви обрали завжди показувати всі раунди.
Цей провидець не всевідущий, але й не вгадує навмання. Перед кожною грою він дивиться на ваші попередні вибори: що ви найчастіше обирали після таких самих чотирьох останніх ходів, і ставить на це. Прогноз запечатано в скриньці B ще до вашого кліку. Спробуйте бути непередбачуваним або, навпаки, послідовним і подивіться, коли виносите більше.
Кожна клітинка означає гру: синя для «лише B», руда для «обидві». Заповнена, якщо провидець угадав, порожня, якщо помилився.
Комп'ютер грає 100 000 разів. Кожен гравець навмання бере лише B або обидві, провидець угадує його вибір з точністю p і заповнює скриньку B. Посуньте повзунок точності. Ліворуч порівнюємо гравців між собою, праворуч порівнюємо два можливі вибори для тих самих скриньок.
Обидві картинки побудовано з тих самих ігор. Ліворуч: що точніший провидець, то більше виносять ті, хто бере лише B, і то менше ті, хто бере обидві. Лінії перетинаються при p = 50,05%: якщо провидець угадує хоч трохи частіше, ніж монетка, «лише B» в середньому вигідніша. Праворуч: якщо взяти будь-яку з цих ігор і, не чіпаючи скриньок, поміняти вибір гравця на «обидві», він щоразу отримав би рівно на $1 000 більше. Точки ліворуч показують симуляцію по 20 000 ігор на кожну точність, кружки показують 100 000 ігор для обраної.
Після вашої відповіді тут з'явиться код симуляції, який можна запустити в себе.
Та сама симуляція коротко і без бібліотек. JavaScript запускається в консолі браузера (F12) або в Node, Python потребує лише стандартної бібліотеки.
// Парадокс Ньюкомба: 100 000 ігор з провидцем, що вгадує з точністю p
const N = 100000, A = 1000, M = 1000000;
for (const p of [0.9, 0.5]) {
const sum = { one: 0, two: 0 }, cnt = { one: 0, two: 0 };
let plus = 0;
for (let i = 0; i < N; i++) {
const choice = Math.random() < 0.5 ? 'one' : 'two'; // гравець обирає навмання
const right = Math.random() < p; // провидець угадав?
const said = right ? choice : (choice === 'one' ? 'two' : 'one');
const B = said === 'one' ? M : 0; // учора: мільйон у B лише для «лише B»
const win = choice === 'one' ? B : A + B;
sum[choice] += win; cnt[choice]++;
const gain = (A + B) - B; // ті самі скриньки: «обидві» мінус «лише B»
if (gain === A) plus++;
}
console.log(`p = ${p * 100}%`);
console.log(` лише B: ${Math.round(sum.one / cnt.one)} точно ${Math.round(p * M)}`);
console.log(` обидві: ${Math.round(sum.two / cnt.two)} точно ${Math.round(A + (1 - p) * M)}`);
console.log(` ігор, де «обидві» дають рівно +1000 до тих самих скриньок: ${(100 * plus / N).toFixed(1)}%`);
}
# Парадокс Ньюкомба: 100 000 ігор з провидцем, що вгадує з точністю p
import random
N, A, M = 100_000, 1000, 1_000_000
for p in (0.9, 0.5):
total = {"one": 0, "two": 0}
count = {"one": 0, "two": 0}
plus = 0
for _ in range(N):
choice = random.choice(("one", "two")) # гравець обирає навмання
right = random.random() < p # провидець угадав?
said = choice if right else ("two" if choice == "one" else "one")
B = M if said == "one" else 0 # учора: мільйон у B лише для «лише B»
win = B if choice == "one" else A + B
total[choice] += win
count[choice] += 1
if (A + B) - B == A: # ті самі скриньки: «обидві» мінус «лише B»
plus += 1
print(f"p = {p:.0%}")
print(f" лише B: {total['one'] / count['one']:.0f} точно {p * M:.0f}")
print(f" обидві: {total['two'] / count['two']:.0f} точно {A + (1 - p) * M:.0f}")
print(f" ігор, де «обидві» дають рівно +1000 до тих самих скриньок: {100 * plus / N:.1f}%")
У більшості задач на цьому сайті інтуїція помиляється, а розрахунок її виправляє. Тут розрахунків два, обидва без помилок, і вони дають різні відповіді. Тому суперечка й триває понад пів століття.
Шар «На пальцях» приховано на всіх задачах.
Хто брав лише B, той майже завжди йшов додому з мільйоном. Хто брав обидві, той майже завжди йшов з тисячею: провидець передбачав це і лишав B порожньою. Хочете піти з мільйоном, робіть як перші.
Гроші вже або лежать у B, або ні. Якщо лежать, обидві скриньки дають $1 001 000 замість $1 000 000. Якщо ні, $1 000 замість нуля. Хоч так, хоч так, скринька A додає $1 000.
Обидва міркування правильні, бо відповідають на різні питання: «з чим зазвичай ідуть додому такі, як я?» і «що зміниться, якщо я зараз візьму ще й A?». Це коротка версія. Картки нижче розбирають кожну сторону в найсильнішій формі.
Уявіть, що задня стінка скриньки B прозора і за нею стоїть ваш друг. Він бачить, чи є там мільйон, але сказати не може, лише крикнути пораду. Якщо мільйон там, друг крикне «бери обидві!»: вийде $1 001 000. Якщо там порожньо, він теж крикне «бери обидві!»: краще $1 000, ніж нічого.
Друг, який бачить усе, за будь-якого вмісту радить одне й те саме. Чи варто йти проти поради, яку дав би той, хто знає більше за вас? Це найсильніша форма аргументу за дві скриньки: ваш вибір нічого не кладе в B і нічого звідти не забирає.
Ваш вибір не рухає грошей. Але вчора провидець дивився саме на вас: на те, як ви думаєте і що обираєте. Якщо зараз вас тягне взяти обидві, то, найімовірніше, саме це він і побачив, і B порожня. Якщо ви з тих, хто бере лише B, то, найімовірніше, він побачив і це, і мільйон уже там.
Тож вибір працює як свідчення: він не змінює вмісту скриньки, але дуже добре його передбачає. Із провидцем, що вгадує 99%, ті, хто бере лише B, у 99 випадках зі 100 знаходять там мільйон. Друг за скринькою бачить одну конкретну гру, а вам треба обрати, яким гравцем бути. Це найсильніша форма аргументу за одну скриньку.
Шар «Строго» приховано на всіх задачах.
| Провидець передбачив | Ви берете лише B | Ви берете обидві |
|---|---|---|
| «лише B»: у B мільйон | $1 000 000 | $1 001 000 |
| «обидві»: B порожня | $0 | $1 000 |
Подивіться на рядки: у кожному права клітинка більша на $1 000. Це аргумент «обидві». А тепер на виділену діагональ: провидець майже завжди потрапляє саме в неї, і на діагоналі ліва верхня клітинка в тисячу разів більша за праву нижню. Це аргумент «лише B».
Якщо вибір є свідченням. Провидець угадує з імовірністю p. Хто бере лише B, у частці p ігор знаходить мільйон: у середньому p · 1 000 000. Хто бере обидві, отримує 1 000 і мільйон лише тоді, коли провидець помилився: 1 000 + (1 − p) · 1 000 000. За p = 99% це 990 000 проти 11 000.
Якщо вміст уже зафіксовано. Нехай мільйон лежить у B з якоюсь імовірністю q, і ваш вибір її не змінює. Тоді лише B дає q · 1 000 000, а обидві дають q · 1 000 000 + 1 000. Обидві виграють за будь-якого q.
Перший підхід називають евіденційною теорією рішень (evidential decision theory): вибір оцінюють за тим, що він свідчить про світ. Другий називають каузальною (causal decision theory): вибір оцінюють за тим, що він у світі змінює. Задача Ньюкомба є найвідомішим місцем, де вони розходяться.
A — сума у прозорій скриньці, M — мільйон у закритій, p — імовірність, що провидець угадає. Сподіваний виграш, якщо вибір вважати свідченням:
«Лише B» вигідніша, коли перше більше за друге:
Якщо вибір на вміст не впливає і мільйон лежить у B з імовірністю q, то за будь-якого q:
Різниця між двома розрахунками в одній деталі. У першому ймовірність мільйона залежить від вашого вибору: p, якщо ви берете лише B, і 1 − p, якщо обидві. У другому вона та сама q для обох виборів. Обидва записи коректні, суперечка в тому, яку ймовірність слід підставляти, коли обираєш.
Шар «Глибше» приховано на всіх задачах.
Задачу придумав фізик Вільям Ньюкомб з Лабораторії Лоуренса в Ліверморі близько 1960 року, але сам про неї нічого не опублікував. 1969 року філософ Роберт Нозік надрукував перший розбір, статтю «Newcomb's Problem and Two Principles of Choice» у збірнику на честь Карла Гемпеля. Два принципи в назві — це якраз два наші розрахунки.
Широкої слави задачі додав Мартін Ґарднер: у липні 1973 року вона вийшла в його колонці в Scientific American, а в березні 1974-го він надрукував Нозіків огляд листів, які надіслали читачі.
1979 року Девід Льюїс у статті в Philosophy & Public Affairs показав, що дилема в'язня є задачею Ньюкомба. Уявіть, що ви граєте не з чужою людиною, а зі своєю точною копією, яка думає так само, як ви. Зрадити вигідніше за будь-якого ходу копії, як узяти обидві скриньки вигідніше за будь-якого вмісту B. Але якщо ви співпрацюєте, то, найімовірніше, співпрацює і копія, як провидець, що бачить у вас «лише B».
Як люди й програми грають у повторювану дилему в'язня, видно в турнірі Аксельрода.
2017 року Елієзер Юдковський і Нейт Соарес запропонували функціональну теорію рішень. Провидець передбачає вас, по суті відтворюючи у себе ваш спосіб міркувати. Тож обирайте так, ніби обираєте не одну дію, а сам цей спосіб, а з ним і те, що побачив провидець. Такий агент бере лише B, хоча й погоджується, що в цій конкретній грі A додала б $1 000.
У класичній задачі A коштує тисячу, а B мільйон, тож для «лише B» досить провидця, що вгадує трохи частіше за монетку. Змінюйте суми і точність і дивіться, де проходить межа. А потім від чисел до ідеї, яка за ними стоїть, і до того, де вона трапляється в житті.
Лише B у середньому дає p · M, обидві дають A + (1 − p) · M. Перше більше, коли p > (1 + A/M)/2. Що дорожча прозора скринька порівняно із закритою, то точнішим має бути провидець, щоб «лише B» окупилася.
За класичних $1 000 проти мільйона межа 50,05%. Якщо в A лежить $500 000, межа вже 75%. Якщо в A стільки ж, скільки в B, межа сягає 100%: навіть бездоганний провидець дає лише нічию, і обидві скриньки не гірші. А аргумент «обидві» від сум не залежить зовсім: для тих самих скриньок A завжди додає рівно A.
У цій задачі платять не за вчинок, а за характер, який провидець у вас побачив. Бути людиною, що бере лише B, вигідно, хоча в момент вибору друга скринька додала б $1 000. Це ідея попереднього зобов'язання: прив'язати себе до рішення заздалегідь, поки воно ще може на щось вплинути.
Одіссей звелів прив'язати себе до щогли, щоб пропливти повз сирен. Він знав, що в потрібну мить захоче звернути, і заздалегідь забрав у себе цей вибір.
Дерек Парфіт у книжці «Reasons and Persons» (1984) описав автостопника, що застряг у пустелі. Водій, який добре читає людей, підвезе його до міста, лише якщо повірить, що там автостопник йому заплатить. У місті платити вже невигідно: він урятований, і гроші нічого не змінять. Але той, хто думає «у місті не заплачу», лишається в пустелі.
Це та сама задача Ньюкомба: водій є провидцем, порятунок є мільйоном, а гроші, які можна не віддати, є скринькою A.
Задачу Ньюкомба легко впізнати: хтось вирішує, як із вами повестися, за прогнозом вашої поведінки, і прогноз цей добрий. Тоді важить не окремий вчинок, а правило, за яким ви дієте. Томас Шеллінг у книжці «The Strategy of Conflict» (1960) описав зобов'язання як стратегічний хід: заздалегідь обмежити себе буває сильніше, ніж зберегти свободу вибору. Перевірити, наскільки ви передбачувані, можна в раунді 2: такий самий оракул Скотта Ааронсона вгадував 70–80% виборів людей, які намагалися його перехитрити.
| Ситуація | Хто тут провидець | Політика «лише B» |
|---|---|---|
| Держава і викрадачі заручників | Викрадачі, які зважують, чи заплатять за заручників | «Ми не ведемо переговорів з терористами». Діє, лише якщо в це вірять заздалегідь: тоді викрадати менш вигідно, хоча кожного конкретного заручника врятувати хочеться понад усе. |
| Батьки і дитина | Дитина, яка швидко вчиться, чи виконують батьки сказане | Виконувати обіцяне навіть тоді, коли саме сьогодні простіше поступитися. Поступка виграє сьогоднішню тисячу, а програє мільйон довіри. |
| Магазин з гарантією «повернемо гроші без питань» | Покупці, які вирішують, чи довіряти гарантії | Повертати гроші й тоді, коли конкретний випадок збитковий: інакше гарантія нічого не варта, і покупці це передбачать. |
| Стрічка новин, рекомендації в магазині | Алгоритм, що прогнозує ваші кліки й покупки за минулою поведінкою | Пам'ятати, що вас уже передбачили: вам показують те, на що ви, найімовірніше, клюнете. Що передбачуваніші ваші звички, то точніший прогноз. |
Інші задачі, де розрахунок упирається в те, яке саме питання ставимо: Спляча красуня, парадокс Бертрана, два конверти. А про те, як раціональність у грі може коштувати грошей обом гравцям, дилема мандрівника.
Вільям Ньюкомб був фізиком у Лабораторії Лоуренса в Ліверморі і задачу так і не опублікував. Надрукував її філософ Роберт Нозік 1969 року, але назвав на честь автора.
Після колонки Мартіна Ґарднера в Scientific American у липні 1973 року прийшло стільки листів, що в березні 1974-го він надрукував другу, де Нозік розібрав відповіді читачів.
2016 року Алекс Беллос запропонував задачу читачам The Guardian. Проголосували 31 854 людини, і 53,5% з них узяли лише B.
В опитуванні PhilPapers 2020 року філософи, знайомі з задачею, частіше обирали дві скриньки: 39% проти 31%. Серед фахівців з теорії рішень перевага ще більша: 73% проти 21%.
Скотт Ааронсон написав просту програму, яка вгадує, яку з двох клавіш людина натисне далі, за її попередніми натисканнями. Вона вгадувала 70–80% натискань людей, які щосили намагалися бути випадковими.
Девід Льюїс показав, що дилема в'язня, зіграна проти власної копії, є задачею Ньюкомба, тож хто бере обидві скриньки, той мусить і зраджувати свого двійника.
Поділіться своїм поясненням, запереченням чи варіантом задачі. Для коментаря потрібен акаунт GitHub.
Рівень «Шкільна математика» відповідає задачі?
Дякуємо! Це допоможе точніше ставити рівні.
Я поступово додаю нові задачі, інші способи їх пояснити й розбори дискусій. Залиште email, і я напишу, коли з'явиться щось нове. Без спаму, відписатися можна в один клік.
Форма підписки з'явиться тут найближчим часом.