10 причин боятися штучного інтелекту за версією Джеймса Кемерона

Опубликовано 12.01.2019 автором discocsid

Режисер Джеймс Кемерон в даний момент працює над шостою частиною кіносерії «Термінатор»: перші дві картини є одними з найбільш відомих його науково-фантастичних робіт, вони вже давно завоювали статус культових. У центрі сюжету — повстання проти людства розумних машин, поява роботів-вбивць, ведених власними цілями і мотивами. Сам Кемерон вважає, що розвиток штучного інтелекту дійсно становить небезпеку, — можливо, не зовсім ту, про яку оповідають його фільми, але тим не менш. Багато в чому він зізнається, що знову хоче повернутися до «Термінатору», тому що зараз ми набагато ближче до описуваного в кіносерії майбутньому, ніж у часи виходу першої частини.

ПРИЧИНА №1: В якийсь момент штучний інтелект може вийти з-під контролю

Я неодноразово зустрічався з діючими співробітниками нашої розвідки і вченими – вони вважають, що за штучним інтелектом майбутнє, а я ось на це дивлюся досить скептично. Одна з учених, з якою я недавно познайомився, якось сказала мені: «Я довгий час вважала цей напрям перспективним, а зараз страшенно налякана». Мені здається, вона зрозуміла, що так чи інакше можуть виникнути труднощі з контролем штучного інтелекту: ця технологія перебуває за межею людського розуміння».
Трейлер фільму «Термінатор»

ПРИЧИНА №2: Розвиток ІЇ призведе до неминучого панування деяких держав

Путін нещодавно сказав, що нація, яка стане лідером у сфері штучного інтелекту, буде головувати над світом. Складається безвихідне становище: різні держави будуть намагатися мілітаризувати штучний інтелект, виправдовуючи свої дії як превентивний захід. Всі будуть намагатися перетворити штучний інтелект в зброю. Мені здається, що тільки це вже повинно викликати побоювання».
Круглий стіл з Джеймсом Кемероном і Тімом Міллером

ПРИЧИНА №3: Навіть великі уми бачать в штучному інтелекті загрозу

Елон Маск і Стівен Хокінг вже попереджали, що штучний інтелект може поставити під загрозу саме виживання людської раси — поряд з такою глобальною проблемою, як ядерна зброя. Більшість авторів науково-фантастичної літератури давно бачать у розвитку ШІ один з апокаліптичних елементів».
«Термінатор: Генеза». Джеймс Кемерон про фільм

ПРИЧИНА №4: В реальному житті машини вже перемагають

Технології мене завжди лякали і залучали одночасно. Мені часто кажуть: машини ніколи не виграють війну з людьми, на що я відповідаю: «Озирніться навколо, в будь-якому аеропорту, в якому ресторані, подивіться, скільки людей захоплені своїми смартфонами. Машини вже перемогли: наша свідомість якоюсь мірою зливається зі свідомістю машин».
«Термінатор 3: Повстання машин». Віддалена сцена з Арнольдом Шварценеггером

ПРИЧИНА №5: В даний час вже існують технології, здатні на вбивство

Те, що було науковою фантастикою під час зйомок перших двох частин у 1984 і 1991 роках, тепер вже є реальністю. Ми живемо у світі штучного інтелекту і дронов, здатних не тільки спостерігати, але і вбивати».
«Термінатор 2». Початкові титри фільму

ПРИЧИНА №6: Машини незабаром зможуть вбивати автономно

Сьогодні безпілотники змінюють способи ведення війни, а політики всерйоз обговорюють питання, чи варто дозволити машин вбивати самостійно. Це велика проблема, адже поки що кожен апарат для вбивств контролюється оператором дистанційно. У майбутньому ж подібні дрони зможуть самостійно приймати рішення про ліквідацію мети».
Трейлер фільму «Я, робот», в якому також піднімається питання використання розумних роботів

ПРИЧИНА №7: Розвиток технологій незворотно

Наші відносини з нашими власними досягненнями завжди були дуже непростими. Таке відчуття, що людство робить сама себе кілька застарілими. У будь-якому випадку, видавивши пасту з тюбика, тому її вже не повернеш. Таким чином, ми вже випустили одного джина з пляшки в 1940-х роках, запустивши розвиток ядерного озброєння. Закінчення Холодної війни стало лише кінцем напруженості, проте всім нам досі є про що турбуватися. Розвиток штучного інтелекту теж вже запущено».
Фрагмент з фільму «Термінатор 2»

ПРИЧИНА №8: Штучний інтелект позбавляє людей робочих місць

Уже давно багато технології на виробництві автоматизуються, люди замінюються машинами, технічними пристосуваннями. Однак подальша перспектива ще гірше: штучний інтелект здатний зрівнятися з мозком кращих учених світу».
Трейлер фільму «З машини», головний герой якого проводить тест Тюрінга над жінкою-роботом

ПРИЧИНА №9: Не всі вчені усвідомлюють загрозу

Ми розвиваємося разом з нашими технологіями. Технології стають для нас дзеркалом. Виробництво людиноподібних роботів з інтелектом, рівним нашому, — це питання найближчих десятиліть. Дослідники дають нам від десяти до тридцяти років. Спробуйте поспілкуватися з молодими розробниками — і ви зрозумієте, що ці люди живуть в тому ж світі захопленого оптимізму, що вчені-ядерники 1930-х, мудруємо про те, як їх винахід змінить світ. Вони не брали на себе відповідальність за те, що їх розробка може стати зброєю і знищить згодом сотні тисяч людей».
«Прометей». Фрагмент «Народження Девіда». У цій картині Рідлі Скотта андроїд стає головним антагоністом

ПРИЧИНА №10: Конкуренція породжує перевагу

Наші винаходу, звичайно ж, відображають наші кращі і гірші сторони. Але технології — це теж бізнес. Саме тому компанії будуть робити своїх роботів більш самостійними, більш розумними, словом, в усьому переважаючими продукцію конкурентів. Уявіть, як це небезпечно для машин, які вміють вбивати? Навряд чи це закінчиться благополучно».
«Той, що біжить по лезу 2049». Дубльований ролик «2036: Відродження Nexus». Людиноподібні роботи-слуги репліканта перебувають у центрі сюжету як першої, так і другої частини кіносерії

Вконтакте
Facebook
Однокласники
Twitter

1859
0

–

Термінатор 2: Судний день,
Термінатор

Джеймс Кемерон