Начало
Понимаю, что все сейчас озабочены террористическими атаками, Путиным, Сирией, беженцами, кризисом ЕС, падающими самолетами и нефтью, Украиной, Крымом и санкциями… Но, поверьте, все эти беспокойства — совершеннейшая ерунда. В доме повешенного по волосам не плачут.
Запомним эту дату — 15 марта 2016 года, она историческая. День, когда весь наш биологический вид — слишком уж зазнавшийся «Человек Разумный» — получил, наконец, свою «черную метку». Правда выглядела она как белый камушек, брошенный на доску древнекитайской игры в го. Автором этого броска и «последнего китайского предупреждения» стал компьютер по имени AlphaGo, созданный компанией Google.
Мы настолько привыкли к разнообразным компьютерным фокусам, что не заметили, насколько радикально изменился наш мир в этот злосчастный день. Самые страшные пророчества стали сбываться. Началась Четвертая мировая война. Еще Алан Тьюринг — автор знаменитого «теста Тьюринга» — предупреждал нас о том, что игра в го будет последним рубежом, отделяющим машинный интеллект от человеческого. И теперь этот Рубикон нашей избранности, сделавший нас в свое время «венцом творения», перейден. Новый «венец творения» начал свое триумфальное шествие по планете.
Не могу сказать, что я рад приветствовать вас в этой новой реальности. Но то, что приветствовать уже пора, — факт неопровержимый. «Я не смог победить, но я не считаю свой проигрыш поражением человечества», — передал через пресс-службу Ли Седоль. Но что еще может сказать этот выдающийся гроссмейстер игры в го, проигравший машинному интеллекту? Мол, извините, я поставил на кон нашу с вами цивилизацию и продул подчистую? Нет, в таком не признаются. Даже если это правда.
***
В последнее время «холодную войну» часто стали называть Третьей мировой, но мне это утверждение кажется избыточным преувеличением. Для настоящей мировой войны она была слишком вегетарианской. Нынешняя война западной цивилизации с террором — дело другое, это поистине Третья мировая. Тут и жертв хоть отбавляй, и границы скоро сильно изменятся — по крайней мере, их внешний вид.
Чтобы представить себе, как будет выглядеть наше с вами недалекое будущее, можно, например, съездить в Израиль и посмотреть на высоченные заборы, окружающие палестинские поселения. Потребуется лишь немножко напрячь воображение и мысленно продлить эту стену от горизонта до горизонта. Такие заборы — из железа и бетона — скоро вырастут по периметру союзнических государств, объединенных в большие цивилизационные агрегации.
Когда-нибудь историки назовут это гигантское архитектурное сооружение, которое разделит цивилизованный мир и мир исламского фундаментализма, «Большой цивилизационной стеной». И хотя дизайн ее вряд ли закажут Филиппу Старку — строить будут второпях, Бэнкси, надо полагать, будет где развернуться. Китайцы, кстати, тоже что-то построят, но им и не впервой, и у них тоже какая-никакая цивилизация, испокон веков, замечу, играющая в го.
Отдельных стран как таковых, то есть в нынешнем их виде, уже не будет. Не рентабельно. Возникнут своего рода «цивилизационные анклавы»: «Европейский», «Североамериканский» и т. д. Россию, впрочем, вряд ли в какой-то из них возьмут. И не потому, что мы «не Европа», или «люди второго сорта», или «нам нельзя доверять». Просто слишком велика территория, а заселена локально — придется делать маленькие города-резервации с остатками культуры: «Москва», «Питер», «Екатеринбург». Блокада 2.0.
Создатели «Ходячих мертвецов», прячущие Рика и его отряд то в опустевшей федеральной тюрьме, то за огромным забором Александрии, не скрывают источников своего вдохновения. Таким эти «новые романисты» видят наше с вами общее будущее — мол, мы конечно говорим о зомби-апокалипсисе, но все же понимают, о каких «зомби» идет речь… И лукаво подмигивают. Трампу.
В общем, приглядитесь еще раз повнимательнее к палестинским поселениям — мы с вами скоро будем жить в таких же. Наверное, можно даже успеть психологически подготовиться.
***
Впрочем, когда одни стены растут, другие с неизбежностью разрушаются. Это своего рода диалектика выживания. И первая жертва на этом алтаре самосохранения — нежно любимое нами privacy, идея неприкосновенности частной жизни. То, что было нажито непосильным трудом, столетиями этических борений, падет. Но оплакивать эту утрату уже будет некому.
Посмотрите на основные тренды Instagram’а, на всю эту эксгибиционирующую обнаженку. Тим Кук может сколько угодно рьяно защищать неприкосновенность наших iPhon’ов от зловещего ФБР, но пока идет эта война амбиций «больших мальчиков», пользователи соцсетей рассекречиваются добровольно и чистосердечно.
Когда-то нас пугали оруэлловским «Большим братом», но сейчас он уже кажется по-своему даже милым. Ну правда, «зловещее, наблюдающее за нашими мыслями и чувствами Супер-Эго!» — кого этим теперь напугаешь? Нет, не страшно. Дети «Большого брата» боятся не того, что о них что-то узнают, а того, что о них не узнают. Не поставили лайк под фоткой с голой попкой — вот это катастрофа, а остальное — не смешите мои тапочки!
Теперь представьте, что к этой раскрепощенности добавятся гигантские стены по периметру цивилизационных анклавов и перманентный страх террористической угрозы. Поверьте, все сами и с готовностью сдадут явки и пароли. А несговорчивые… Несговорчивых просто выдворят за Стену — «по закону военного времени». Всякие же оппортунистические Telegram’ы в этом новом дивном мире просто запретят — в целях «цивилизационной безопасности».
Итак, финал Третьей мировой войны между цивилизацией с терроризмом, казалось бы, предрешен и недвусмысленно грозит нам «новым Средневековьем». Но не спешите радоваться, плохие новости только начинаются. Благодаря наступающей Четвертой мировой войне мы, вероятно, на всех парах проскочим эту станцию и обнаружим себя сразу в «новых Темных веках». Спасибо Ли Седолю…
***
Авторы бесчисленных научно-популярных кибертриллеров и широкоформатных блокбастеров, комиксов и компьютерных игр привычно пугают нас всякими страшилками про «искусственный разум». Мол, он разрастется и будет представлять угрозу для человека. Сами по себе эти басни, конечно, не выдерживают никакой критики — их создатели дуют на воду, тычут пальцем в небо и ковыряются в чужой песочнице.
Но самое печальное — не наивность авторов-фантастов, не их бесчисленные ошибки, а то, что создатели этих, с позволения сказать, шедевров всегда рисуют нам «хороший конец». Понятно, что это закон жанра: аудиторию надо привлекать, а не отпугивать. Но в результате этого маркетингового хода чувство тревоги в отношении «искусственного интеллекта» у человечества притупилось, и это как раз самое опасное.
Думать, что «искусственный интеллект» будет таким же, как мы — антропоподобным и человеко-разумным, нарушит законы роботехники Айзека Азимова и нас же завоюет, по меньшей мере наивно. Но еще наивнее думать, что война с «искусственным интеллектом» — это вопрос отдаленного будущего. Она уже идет, а 15 марта 2016 года — лишь красивая дата проигранной «Битвы при Сеуле» для возможных будущих учебников истории (если, конечно, мы выживем, и их еще будет кому написать).
Пока запрещенные в РФ игиловцы переименовались, художники Charlie рисовали очередные карикатурки на Пророка, а страны-нефтедобытчики пытались снова сговориться о бабках, вся прогрессивная мировая общественность наблюдала за тем, что происходит в далеком Сеуле.
Там, впрочем, ничего «такого» и не происходило. Ли Седоль сидел над доской игры в го, покрывался потом и тискал свою несчастную голову. Завершалась пятая, последняя партия серии игр между человеком и искусственным интеллектом. Пятая, но не решающая. Исход турнира был известен после первых трех сражений, в которых гугловское детище AlphaGo разбило Седоля подчистую. В четвертой, правда, машина поддалась, а в пятой — да, снова выиграла.
Общий счет 4:1 в пользу искусственного интеллекта.
Когда в 1997 году Гарри Каспаров проиграл шахматный турнир компьютеру Deep Blue, это, конечно, стало серьезным шоком для думающей части человечества. Но самоуверенность возобладала: мол, есть еще игра в го, в которой нет жестких алгоритмов, она требует интуиции и видения стратегии. Считалось, что победить в этой игре, не думая как человек, невозможно, а компьютер никогда так думать не сможет. И именно этот миф пал только что на сеульской земле.
Впрочем, научился ли AlphaGo думать как человек? Это, на самом деле, смешной вопрос. Он научился думать лучше человека. Тут важно понять: с Ли Седолем сражалась не компьютерная программа, созданная другими людьми, а самый настоящий цифровой интеллект. Все, что сделали разработчики, — это загрузили в AlphaGo информацию о множестве ранее сыгранных другими людьми партий и позволили ему потренироваться.
AlphaGo сыграл миллионы партий со своими собственными копиями, последовательно выбраковывая нежизнеспособные. В результате он создал собственные абстрактные стратегии ведения игры в го. Так что никто, включая разработчиков, не знает, как и почему AlphaGo принимает те или иные решения и какими правилами он руководствуется.
Это самый настоящий «черный ящик», но только уже не Скиннера, а Дугласа Лената, который первым разработал технологию цифрового естественного отбора, а потом засекретил свои разработки, опасаясь последствий собственного открытия (Google лишь пошел сходным путем и сделал нечто подобное).
***
Честно признаюсь, я не большой специалист в го. Как методологу подобные игры разума мне глубоко безразличны. Игры в «го», «го-го» или даже «иго-го-го» — неважно, меня интересуют подлинные значения вещей, то есть факты, а не вещи как таковые. Впрочем, если кто-то захочет изучить нюансы и подробности, а также суть этого «поражения человечества», все очень хорошо написано тут.
Так в чем же тут факт? Факт состоит в том, что ученые вплотную подошли к предсказанному «интеллектуальному взрыву». К информационному апокалипсису.
«Интеллектуальный взрыв» — теоретическое детище выдающегося математика Ирвинга Джона Гуда. Гуд был другом и коллегой Алана Тьюринга, вместе они работали в Блетчли-парке над над дешифровкой фашистской «Энигмы». Судьба Тьюринга широко известна, чего не скажешь о Гуде. В 60-х он эмигрировал в США, поселился в далеком Блэксбурге и до самой смерти в 2009 году работал в Политехническом университете Вирджинии на окладе, превышавшем оклад ректора.
Гуд был блестящим шахматистом, и это ему Тьюринг сказал о последнем интеллектуальном рубеже человечества — игре в го. Поэтому нет ничего удивительного в том, что именно Гуд занялся проблемой «искусственных нейронных сетей» — искусственным интеллектом, который программирует себя сам. Изначально Гуду казалось, что сверхразумная машина, к созданию которой мы неизбежно придем, будет величайшим благом для человечества.
Подумать только, в наших руках окажется суперинтеллект способный создавать мириады других суперинтеллектов! Мы сможем решить любые проблемы: победим болезни и смерть, обеспечим всеобщее благосостояние, полетим на Марс…
Впрочем, скоро стало понятно, что будущее человечества вовсе не так радужно. Решать соответствующие проблемы будет не человек, а машина, которая намного умнее человека. Тут, понятно, все начинают вспоминать Азимова — мол, объясним машине, что она должна служить нам, а не против нас, и все будет хорошо. Не будет. Если искусственный интеллект развивается путем самообучения, то об Азимове, при всем уважении, придется забыть.
Все дело в том, что нейронное или генетическое программирование предполагает цель, ради которой данный интеллект создается. Любая же умная система, движимая своей целью, сделает все возможное, чтобы избежать гибели (ведь если она «умрет», то ее цель не будет достигнута). То есть искусственный интеллект обязательно и очень скоро обнаружит в себе инстинкт самосохранения, а потом будет постоянно самосовершенствоваться, чтобы сопротивляться всяким попыткам его сдержать или выключить.
А то, что в какой-то момент нам захочется его сдержать, а потом и выключить, сомневаться не приходится. Дело в том, что инстинкт самосохранения вынудит суперинтеллект создавать новые цели, для достижения которых ему потребуются новые ресурсы, а мы с вами — поскольку состоим из молекул и атомов – и есть, в частности и кроме прочего, такой ресурс, проще говоря, кормовая база. Да, нам очень захочется его выключить. Но мы не сможем.
Создатели легендарной «Матрицы» предрекли нашим телам роль батареек, но и это, как выясняется, еще очень гуманный вариант развития событий. Сверхумный интеллект найдет способ получать энергию и менее затратным способом, нас же просто пустят под нано-нож.
Так выглядит перспективный план…
https://snob.ru/selected/entry/106675
Монстр
В 1939 году Альберт Эйнштейн написал президенту Франклину Рузвельту письмо, ставшее впоследствии знаменитым. В нем автор теории относительности фактически потребовал от США начать работы по созданию атомной бомбы. В противном случае, объяснял Эйнштейн, гитлеровская Германия создаст это смертоносное оружие раньше и судьба мира будет предрешена.
Стивен Хокинг — Эйнштейн нашего времени, но сейчас президентам письма не пишут. И президенты уже не те, да и что они могут? В 2014 году Хокинг выступил на BBC с пугающим прогнозом: «Разработка полноценного искусственного интеллекта может означать конец человеческой расы». Илон Маск отозвался в своем твиттере: «Нам нужно быть предельно аккуратными с искусственным интеллектом. Потенциально он куда более опасен, нежели ядерные боеголовки».
Уже в 2015 году Илон Маск основывает некоммерческую компанию OpenAI, ее цель — создать открытый и дружественный человеку искусственный интеллект, в противовес «злонамеренному искусственному интеллекту», над которым, как считается, работают все остальные — от Сергея Михайловича Брина до Рэймонда Курцвейла. Так что в этой истории кроме современного Эйнштейна есть и свой Роберт Оппенгеймер.
Маск провел переговоры с десятью ведущими специалистами по искусственному интеллекту. Девять из них согласились присоединиться к благотворительному проекту: они оставили свои руководящие должности и баснословные зарплаты, чтобы попытаться спасти мир. И число этих Робин Гудов, надо сказать, неуклонно растет. Да, OpenAI Илона Маска — это новый «Манхэттенский проект».
Итак, кто современный Эйнштейн, а кто Оппенгеймер — понятно. Но вот кто Гитлер и Гейзенберг? И в чем суть этого нового оружия? Как оно будет действовать? И чем все это закончится?
***
Знаете такую телепрограмму «Своя игра» (калька с американского формата Jeopardy!)? Она для умников — в ней побеждали Александр Друзь, Борис Бурда, Анатолий Вассерман. Все как один — интеллектуальные крутышки. Но с 2011 года любой умник проигрывает в этой игре суперкомпьютеру IBM Watson. Watson не просто знает все ответы (имея свободный доступ к интернету, это, наверное, не слишком сложно), он научился понимать вопросы: различать подтекст, метафору, языковую игру и т. д., и т. п.
Так что вполне резонно задаться вопросом: а умеет ли суперкомпьютер IBM Watson думать? Создатель Watson’а — Дэвид Ферруччи — отвечает на это буквально так: «А умеет ли подводная лодка плавать?» Не торопитесь читать дальше — почувствуйте его иронию.
Искусственный разум скоро превзойдет человеческий по всем возможным параметрам, и наша дальнейшая судьба, поверьте, незавидна. Впрочем, мы даже думать об этом с должной серьезностью не можем. Не можем по той же причине, по которой не способны представить себе инопланетян иначе как человечками с руками и ногами. Наше воображение все лепит по своему образу и подобию. Нам просто недостает фантазии, а точнее, ума.
Мы ментальные эгоцентрики. Утешаем себя отговорками об уникальности человеческого сознания, философствуем о личности, некоторые даже о душе подумывают. Но все это — лишь культурные химеры, удобные фикции. Ничего этого просто нет, а есть лишь работа миллиардов нервных клеток — химические реакции и электрические импульсы. Мы сами — программный продукт собственного мозга. А потому странно и слишком самонадеянно думать, что интеллект можно произвести только полуторакилограммовой биомассой из воды, жиров, белков и катехоламинов.
Понимаю, что все это звучит не слишком ободряюще. Но это правда. Близок тот день, когда глиняный колосс наших культурных заблуждений, накрученных вокруг «личности» и «человека», рухнет. Конечно, мы до последнего будем защищать эту свою духовную «прелесть». Это вообще свойство человеческого интеллекта — игнорировать факты и совершать беспримерные глупости, о чем со всей очевидностью свидетельствует механизм «когнитивного диссонанса» Леона Фестингера.
Впрочем, это только лишний повод задуматься: у искусственного интеллекта подобных дефектов, обусловленных нашей человечностью, не предвидится. Так что оживающая на глазах железяка имеет все шансы надрать нам зад. И не только в «Своей игре». Тем более что это будет уже «Его игра».
***
У биологического интеллекта, конечно, была фора в несколько миллионов лет. Но ведь и темп был другой. Сейчас искусственный интеллект развивается тем же путем — методом проб и ошибок, используя механизмы подкрепления и обратной связи. То есть это полноценная эволюция по механизму естественного отбора. Только вот скорость соответствующих итераций — переходов от поколения к поколению — на порядки выше. Да и материал для своего интеллектуального развития этот «человеческий детеныш» получает на блюдечке с голубой каемочкой. Это не просто информация, а хорошо структурированная, взаимосвязанная, иерархически выстроенная информация. Учись — не хочу.
Если же кто-то еще думает, что современный искусственный интеллект программируется умными дяденьками — строчка за строчкой, алгоритм за алгоритмом, а потому вся его жизнь под строгим контролем, — забудьте. Это самообучающиеся, самонастраивающиеся и саморазвивающиеся системы. Что у такого «черного ящика» внутри, никому неизвестно. Мы не знаем, как он выигрывает в «Своей игре» или в го у лучшего гроссмейстера на планете. Тот же Ферруччи, как любящий отец, счастливо рекомендует свое чадо: «Люди спрашивают, а почему Watson здесь ответил неправильно? Я не знаю. Почему он здесь ответил правильно? Я не знаю тоже!» В общем, «Карнавальная ночь»: «Есть ли жизнь на Марсе, нет ли жизни на Марсе? Наука пока не в курсе дела! Асса!» Только, в отличие от Марса, наука создала этого монстра собственными руками.
И конечно, все эти турниры да телевикторины — лишь верхушка айсберга, демонстрация возможностей, шоу-бизнес. Пока мы забавляемся показательными выступлениями, искусственный интеллект трудолюбиво учится распознавать нашу речь, говорить, узнавать нас в лицо (проекты, финансируемые DARPA) или, например, называть человеческим языком визуальные объекты (разработка NeuralTalk, Стэнфордский университет). Еще он теперь может сказать, где была сделана та или иная фотография (нейронная сеть PlaNet компании Google), о чем то или иное видео (система Cortex компании Twitter), заранее знает, кто победит на премии «Оскар» или в Суперкубке, а еще делает ставки на скачках 540 к 1 и выигрывает (система UNU Льюиса Розенберга).
Впрочем, больше всего меня умиляют роботы-писатели. Да, они пишут превосходные заметки! О спортивных соревнованиях, о ситуации на финансовых рынках, недвижимости, да и просто весьма увлекательно излагают обычные городские новости (компания Automated Insight Робби Аллена). И должен сказать, зачастую читать эти тексты куда приятнее, чем аналогичные опусы, созданные профессиональными журналистами. Так что, если вы на 100% уверены, что данный текст об искусственном интеллекте написан человеком, а не самим искусственным интеллектом, помните: это может оказаться иллюзией.
Да, машины уже очень неплохо справляются с задачами, которые мы традиционно считаем уникальным свойством человеческого мозга. Пока это лишь разрозненные системы, но представьте, что некий суперкомпьютер совсем скоро объединит в себе все эти способности. Впрочем, любая машина все равно будет лишь жалким подобием человеческого интеллекта, правда? Ох уж это наше самомнение! Подобием — да, но отнюдь не жалким, ведь она сможет одновременно учитывать все накопленное человечеством знание, а главное, будет иметь всю возможную информацию о каждом из нас.
***
«Надеюсь, мы с вами не являемся чем-то вроде загрузчика для искусственного суперинтеллекта будущего, — пишет Маск в том же твиттере. — Но, как мне кажется, все идет именно к этому». Маск одним из первых осознал, что значит предоставить искусственному интеллекту всю информацию о нас. То есть не то, что мы о себе думаем или, например, как мы выглядим (это нужно лишь для того, чтобы нас идентифицировать), а именно всю, то есть все о нашем действительном поведении, способах принятия решений и наших желаниях.
Это, вероятно, и пугает Маска больше всего, неслучайно же он говорит об искусственном интеллекте как об «экзистенциальной угрозе» человечеству. Представьте, что машина начинает предугадывать наши желания — мы и сами-то со своими желаниями не способны разобраться, но она справится, ведь знает не только то, что мы думаем, но и то, как действуем. Само по себе это, наверное, и неплохо. Но кто сказал, что искусственный интеллект распорядится соответствующим знанием в наших интересах? Если он будет знать наши желания, он сможет и влиять на них, управлять ими, то есть нами. Поэтому, надо полагать, Маск и ополчился на Google (а отчасти и на Facebook), хотя и уходит от прямых вопросов на эту тему.
Интернет-гиганты совсем не так давно вышли на безубыточность, а реальные вложения и вовсе далеки от окупаемости. Ставка изначально делалась не на прибыль, и не ради прибыли сюда вкладывались инвесторы. Ставка делалась на завоевание максимального объема рынка — на количество пользователей, захваченных тем или иным ресурсом. Google, Facebook (и поглощенный им Twitter), Apple, Instagram, «Яндекс» — все это своего рода виртуальные империи, в буквальном смысле колонизирующие народы и создающие свои квазигосударства.
Вопрос лишь в том, как этим империям управлять своими гражданами и какой бенефит из этого можно извлечь. Пока прежние политические системы деградируют, новые игроки политического рынка — интернет-гиганты — превращаются в протогосударственных монстров. Я всегда считал, что состояние рабства должно определяться следующим образом: тебе платят не за то, что ты делаешь, а за то, что ты просто есть (ну, а что тебе делать или не делать — уже не твоего ума дело). По этому принципу и развиваются эти новые империи — мы у них есть. Рабы и папуасы глобальной сети интернет, которые даже не догадываются, что их «уже посчитали».
Сейчас в штаб-квартирах новых мировых интернет-империй создается искусственный интеллект, который будет управлять нами изнутри системы. И бьюсь об заклад, что его создатели сами еще не знают, как этой безумной и неограниченной властью распорядиться. Полагаю, пока они рассуждают типичным для таких случаев образом: завоюем, поработим как следует, а потом уж решим, что со всем этим делать. А решать, действительно, придется: не ровен час, когда все завоеванное ими «богатство» (то есть мы с вами) превратится в самые настоящие черепки. Ведь если искусственный интеллект действительно достигнет того уровня развития, который сейчас кажется уже почти неизбежным, сами по себе люди будут экономике не нужны. Более того, превратятся в обузу.
Ну правда, раньше рабочая сила была реальным капиталом (© К. Маркс), а сейчас какая в ней нужда? Представьте себе недалекое будущее… На первых этажах наших домов вместо нынешних магазинов располагаются большие 3D-принтеры, к ним по трубам (что-то вроде нынешнего водопровода) поступает универсальный концентрат двух видов — съедобный и несъедобный. Вам остается только нажать на кнопку, и нужные предметы тут же изготавливаются и оказываются в вашей квартире. Причем сам этот концентрат также производится на бесчеловечных — полностью автоматизированных — производствах.
Искусственного креатива тоже будет хоть отбавляй. Его, чтобы мы не скучали, нам будут скармливать нон-стоп. Искусственный интеллект уже сейчас научился сочинять музыку и писать литературные тексты, а завтра он будет работать в системе полного цикла, поставляя нашему вниманию неограниченное множество аудиовизуальных произведений, причем в системе 3D-реальности. Смотреть можно будет сутками напролет — не оторвешься! То есть кроме искусственного хлеба нас ждут и искусственные зрелища, причем в избытке.
Но зачем этой системе люди? При таком раскладе, люди становятся самыми настоящими «домашними животными». Но домашних животных тоже заводят не просто так: или для того, чтобы их есть, или же (и таких куда меньше в процентном отношении), чтобы им умиляться. Но кто нам в такой ситуации будет умиляться и, главное, зачем? Искусственный интеллект и вправду должен оказаться тем еще извращенцем, чтобы его умиляло человечество. А съесть нас… Ну да, эту версию я уже описывал в предыдущей статье («Четвертая мировая. Начало») — нанонож и все такое.
В общем, все это пока напоминает какую-то ужасающую футурологическую фантасмагорию. И неудивительно, что трогательного Илона Маска это пугает. Кстати, его странная затея с полетом на Марс — с билетом в один конец — не кажется на этом фоне столь уж эксцентричной выходкой.
Так или иначе, зная интернет-индустрию изнутри, Илон Маск пока пытается примерить на себя роль Морфеуса и создать что-то вроде анти-Матрицы — такой искусственный интеллект, который не будет, как, например, гугловский, нас контролировать. Но можно ли его контролировать, если он действительно станет интеллектом, то есть сущностью, обладающей своим собственным умом и самосознанием? На этот вопрос, кажется, даже у самого Маска ответа нет.
***
Новый Оппенгеймер строит новую бомбу, чтобы обогнать новых фашистов. Но даже если он их обгонит, бомба будет создана, а такие штуки без дела не пропадают. Немногие, наверное, об этом знают, но Эйнштейн отправил Рузвельту и второе письмо, когда у американцев уже была бомба. В нем, как нетрудно догадаться, Эйнштейн пытался убедить президента не использовать атомное оружие. По стечению обстоятельств, письмо оказалось на столе Рузвельта 12 апреля 1945 года — в день его смерти — и даже не было распечатано.
Позже, вспоминая трагедию Хиросимы и Нагасаки, Эйнштейн признается своему биографу: «Да, я нажал на эту кнопку». Впрочем, он явно преувеличивал. Если и нажал, то не более, чем Хокинг на свою, мигая веком.
Да, ни Маск, ни Брин, бьющиеся в своем искусственно-интеллектуальном противостоянии, не учитывают того факта, что на сцене, подобно черному лебедю Нассима Талеба, в любой момент вместо интеллигентного Рузвельта может объявиться боевой офицер Гарри Трумэн. И руки у новых Трумэнов уже чешутся…
https://snob.ru/selected/entry/109331
Сценарии
Следите за кибератаками? Россия, США, Китай, объекты стратегического назначения и несчастная Хиллари… Кажется, все, о чем так долго говорили футурологи, свершилось! В нашем насквозь технологизированном мире боевые действия перемещаются с реальных полей сражений на поля виртуальные — за серверы, базы данных, коды доступа и т. д. Завладейте компьютерной инфраструктурой противника, и он повержен. Ни одно современное государство-Голиаф не выдержит удара камнем, летящим из этой пращи.
Таким выглядит наш новый Армагеддон, но это лишь обман зрения. Кибервойна, о которой нас начинают потихоньку информировать, все еще продолжает оставаться геополитической. Как и прежде, предполагается, что США будут воевать против России, Россия — против США, а Китай — вместе со всеми против всех. Но правда в том, что такая война никому больше не нужна. Это война престарелых (по крайней мере, интеллектуально) генералов, которые, как говаривала одна мудрая графиня, «слишком долго жили в Советском Союзе», или, если угодно, в состоянии холодной войны.
Все изменилось. Да, на этот раз любимец американских студентов — Берни Сандерс — проиграл, но к следующим выборам и эти студенты вырастут, и новые появятся, так что какой-нибудь демагог-Сандерс точно победит. Про наших студентов я и вовсе молчу — если они и хотят завоевать мир, то только личной биографией и где-нибудь в приличном заграничном месте. Жители глобального сетевого пространства не знают и не хотят знать геополитики. Плевать на нее хотели и транснациональные корпорации, в особенности Google, Apple, Microsoft и Facebook.
Самой этой сущности — «геополитика» — больше нет. Остались только цифра и человек — два реальных конкурента за мировое господство, и Четвертая мировая война развернется между ними. По идее, Четвертой мировой, конечно, должна предшествовать Третья — глобальная война с террором (см. «Четвертая мировая. Начало»). Но, с учетом торжествующего политического мракобесия и общего идиотизма, Третью мировую мы можем и проскочить.
Вероятные сценарии старта Четвертой мировой не блещут особым изяществом, но их, вероятно, тоже необходимо рассмотреть.
Сценарий первый: кибервойна
Когда мы слышим что-то про кибератаки, мы представляем себе опустошенную кредитную карту или взломанную электронную почту, но, поверьте, это сущая ерунда. Да, киберпреступность — это уже триллионная индустрия, и ее обороты давно превышают доходы наркокартелей, но военные кибератаки — это совсем другое дело. В военных целях разрабатывается кибероружие, направленное на инфраструктурные объекты: энергосистема, транспортная сеть, финансовый сектор и др., — а все это куда серьезнее жалкой кредитки или личной переписки.
Представьте, что враг лишает нас электричества, парализует транспорт и обвально девальвирует нашу валюту (например, эмитируя на банковские счета граждан неограниченные суммы денег). И дело не в том, что без электричества, например, мы не сможем посмотреть киношку на ночь, а в том, что из-за той самой технологизации нашей жизни за год от голода и болезней умрет девять из десяти человек. Мы лишимся воды, тепла, канализации, лекарств, остановится производство пищевой продукции, горючих веществ и т. д. Все будет настолько плохо, что даже зомби не понадобятся. Это ведь только кажется, что риск минимальный: мол, как-то же мы справлялись с отключением света в нашей квартире и никто не умер! Но мы никогда не справлялись с отключением всего электричества у всех сразу.
Но кому под силу такая задача — лишить целую страну всей ее инфраструктуры?! Вопрос на самом деле неверный и даже глупый. Правильный вопрос — как сохранить хоть что-то в мире в работоспособном состоянии после того, как соответствующее кибероружие «выстрелит»? Именно с этой проблемой и столкнулись наши американо-израильские коллеги, ударив компьютерным червем Stuxnet по иранским ядерным реакторам. Это был первый случай в истории, когда использовался не просто вирус-шпион — штука теперь уже совершенно тривиальная, а специальная программа, заточенная на физическое уничтожение реальных производственных агрегатов.
Реконструкция этой истории, чуть не закончившейся мировой катастрофой, выглядит следующим образом. Вероятно, некий шпион-диверсант пронес на охраняемую территорию иранского завода в Натанзе флешку со Stuxnet и запустил вирус в локальную компьютерную сеть. Для входа в систему червю требовался только Windows, чьи так называемые «уязвимости нулевого уровня» он знал. Вот почему, кстати говоря, не стоит удивляться требованиям Ангелы Меркель не гонять европейский интернет-трафик через американские серверы, а также отечественной инициативе по созданию собственной операционной системы. Все это абсолютно бессмысленно и мертвому припарка, но сама по себе эта политическая паника, поверьте, отнюдь не беспочвенна.
Впрочем, вернемся в Иран. Попав во внутреннюю сеть, этот виртуальный зверек обнаружил контроллер Siemens S7-300, работающий на газовой центрифуге по обогащению урана, и спектакль начался. Вирус определил программы, которые сигнализируют сотрудникам предприятия о состоянии центрифуг, и перекодировал их. Теперь работники завода уже не могли видеть, что происходит с центрифугами на самом деле — им казалось, что реактор работает идеально. Надев на операторов эти своеобразные шоры, вирус принялся жечь центрифуги: он то разгонял их, то резко замедлял, и оборудование выходило из строя. Всего за десять месяцев Stuxnet сжег таким образом от 1000 до 2000 центрифуг.
Ирония в том, что именно жертва нынешнего киберскандала — тогдашняя госсекретарь США Хиллари Клинтон — победоносно заявила в 2011 году, что проект по разработке вируса Stuxnet оказался успешным и иранская ядерная программа отброшена на годы назад. Остается только догадываться, что происходит в голове у этой женщины, если она, зная все это, решается пользоваться личной почтой для рабочей переписки… Кажется, политики совершенно не соображают, о чем говорят и с чем имеют дело. Им уже давно пора переходить на молокопись и почтовых голубей!
Впрочем, история Stuxnet на этом не заканчивается. Напротив, начинается самое интересное. Никому и в голову не пришло, что этот киберзверь не удержится в клетке. Через интернет вирус покинул пределы завода в Натанзе и заразил тысячи компьютеров по всему миру. Нас тогда спасло только то, что Stuxnet всюду искал контроллер Siemens S7-300, а таковых на его пути больше не обнаружилось. Счастливая случайность, надо признать (ну или у Siemens существовала какая-то предварительная договоренность с ЦРУ). А теперь представим — следите за руками (это важно!), — что какой-нибудь аутизированный и закомплексованный хакер ловит такую штуку в интернете, слегка ее модифицирует и настраивает на уничтожение любого промышленного процесса.
На самом деле, в этом сценарии нет ничего сложного, а тем более невероятного. Допустим, некое правительство, «мира во всем мире» ради, убеждает какой-нибудь Microsoft поделиться информацией об «уязвимости нулевого уровня» его новой операционной системы. В расчете на эту уязвимость и создается вирус военного назначения, который используется против какого-нибудь «кровавого режима». Параллельно все это безобразие оказывается в интернете и, соответственно, в руках каких-нибудь безызвестных и скучающих программистов, которые решают «немного пошалить». Они блокируют программу самоуничтожения вируса и выпускают проапгрейженного хищника на волю.
Это реально. Абсолютно. Тот же Stuxnet в том же самом 2010 году был именно так — случайно — обнаружен в интернете неизвестным до той поры белорусским программистом Сергеем Уласенем. Благодаря своей находке Сергей, конечно, обрел известность и его забрали в «Лабораторию Касперского». Но что, если бы у него не было амбиции работать в команде Евгения Валентиновича? Представим себе, что Сергей оказался менее человеколюбивым и более амбициозным — как Герострат, например. Волне возможно, что мы бы уже с вами мило не беседовали, причем ни здесь, на «Снобе», ни где-либо еще. Ведь атомная бомба Оппенгеймера выглядит на фоне этого кибермонстра не страшнее кремлевской Царь-пушки.
Через год после победоносного заявления Хиллари бывший глава подразделения киберзащиты министерства внутренней безопасности США Шон Макгурк оказался на программе «60 минут» канала CBS, где ведущий прямо спросил его о Stuxnet: «Эту штуку могли использовать против нас?» Видимо, в ту секунду Шон сильно пожалел, что решился прийти на это шоу. Его ответом было сдавленное «да». Вся фактическая инфраструктура нашей насквозь технологизированной цивилизации уже находилась под ударом, который вряд ли смогла бы выдержать. Так что, пока политики и генералы играют в свою, как им кажется, кибергеополитику, мы с вами безмятежно прогуливаемся по сафари-парку.
И тут нельзя отмахнуться, что, мол, с безумцами-хакерами ничего не поделаешь, а от случайностей не застрахуешься. Одно дело, когда безумец разгуливает с мачете по Лондону или с винтовкой по гей-клубу в Орландо, и совсем другое — тотальная уязвимость инфраструктуры. А вдруг этим безумцем окажется не какой-нибудь безвестный хакер, а, например, Сергей Михайлович Брин? Кризис среднего возраста там, какая-нибудь мизантропия, развившаяся на почве корпоративных войн и проснувшейся эндогенной депрессии… Почему нет?
Сценарий второй: интернет-хунта
В прошлый раз я рассказывал о революционном проекте Илона Маска по созданию открытого искусственного интеллекта. Маск, но на свой манер, боится того же, чего боятся Ассанж и Сноуден: контроля со стороны «Большого Брата». Впрочем, если Ассанж и Сноуден боятся, что контролировать нас будет государство, то Маск уверен, что скоро контролировать нас начнет сама Сеть. Он не политик и не общественный деятель, он технолог и бизнесмен. Как технолог, он прекрасно понимает, что будущее за сверхумным искусственным интеллектом, а, как бизнесмен, знает, что раскидистая клюква растет там, где денег бесконечное количество, а это, в частности, интернет-бизнес и все тот же самый пресловутый госзаказ.
Ассанжу, как известно, влетело за то, что он предал огласке документы Пентагона, которые тот вряд ли хотел рассекречивать. А вот за что пострадал Сноуден? Товарищ Эдвард рассказал мировой общественности про секретную программу Агентства национальной безопасности США под названием PRISM, в рамках которой АНБ получало негласный доступ к личным данным пользователей Microsoft, Yahoo, Google, Facebook, Skype, YouTube, Apple и др. На самом деле, речь шла о совершенно феноменальном сговоре между лидерами спецслужб и первыми лицами Кремниевой долины — вы ведете для нас слежку, а мы вас не трогаем.
Сидение Сноудена в московском аэропорту увенчалось успехом: интернет-гиганты поспешили дистанцироваться от АНБ и демонстративно ввели дополнительные системы шифрования, компания Acxion, которая почти официально создавала для АНБ «личные дела» американцев, исследуя их интернет-трафик, была заклеймена позором, а Барак Обама призвал правительство «взять на себя инициативу» и «покончить с цифровой слежкой». Все это выглядит очень круто: нашу личную жизнь решили оставить нам, и мы, вроде как, возрадовались. Никто, кажется, не понял, какая чудовищная мина залегла в тот самый момент под здание нашей с вами цивилизации.
Когда у Эрика Шмидта — прежнего главного исполнительного директора Google — спросили, не планирует ли Google превратиться в государство и вести себя на манер правительства, он ответил: «Нет, мы не стремимся. У государства слишком много сложных проблем». И значит это буквально следующее: «Да, мы будем государством, только вот за пособиями, образованием, правопорядком, сбором налогов и прочей ерундой — это не к нам, а к тем, кто почему-то продолжает себя считать государствами». Google, Apple, Facebook уже ощущают свое мировое господство, но раньше им приходилось мириться с государственным контролем (хотя бы и со стороны одних США), а теперь, после выходки Сноудена, они вполне могут сказать тем же США: извините, мы должны быть полностью независимы.
В шахматах есть такое понятие — цугцванг (это когда любой следующий ход игрока только ухудшает его позицию). Так вот, действия Сноудена продемонстрировали, что все мы находимся в том самом цифровом цугцванге. Дело в том, что вся информация, которую мы сами о себе оставляем в Сети, — это товар. Интернет-гиганты собирают ее, перерабатывают и продают. Они делали это, делают и будут делать — такова суть их бизнеса. Только раньше им приходилось делиться этой информацией с правительствами, а теперь у них есть легальное основание для отказа: они ведь как бы охраняют наши персональные данные. И ключевое слово здесь — «как бы», потому что они их не охраняют, они ими пользуются. И теперь будут пользоваться «в одно лицо», так сказать.
А теперь задумайтесь, из-за чего так переживает Илон Маск, что решил инвестировать личный миллиард долларов в бесплатный и открытый искусственный интеллект? Все до банальности просто: если даже не сверхумный, а хоть сколько-то сообразительный искусственный интеллект первым окажется в руках Google или Facebook, то все наши с вами персональные данные (которые у этих компаний уже есть и продолжают расти как на дрожжах) превратятся в идеальный способ управления нашим поведением. Социолог Зейнеп Тюфекчи показывает, что социальные сети уже сейчас обладают способностью «формировать нашу личность и наши слабые места», «понуждают и формируют наши мысли, желания и мечты». Нужен лишь слегка усиленный движок искусственного интеллекта, и предсказание Олдоса Хаксли о производстве «нужных обществу людей» станет явью.
Уже сейчас так называемой «когнитивной архитектурой» обладают такие компании, как AGIRI, Cycorp, Google, IBM, Novamente, Numenta, Self-Aware Systems, Vicarious Systems, и список можно продолжать. Плюс вездесущее государственное DARPA — «Агентство по перспективнымоборонным научно-исследовательским разработкам», — которому мы уже обязаны интернетом и тысячей других цифровых вещей, включая, например, крошку Siri. Да, это еще не тот искусственный интеллект, который способен справиться с «тестом Тьюринга», но, может быть, в этом и нет особой нужды? Разве не тот же эффект будет достигнут, если искусственный интеллект, так и не став полноценной личностью, уничтожит наши?
Выдающийся ученый, профессор социологии Нью-Йоркского университета и Лондонской школы экономики Ричард Сеннет говорит: «Пришло время разбить Google на куски», а для этого «нам нужны отважные политики». И все вроде бы логично: необходимо разрушить формирующиеся гигантские интернет-монополии до того, как они начали формировать нас. Но если эти монополии смогут в скором времени управлять нашим поведением (по факту, это и так уже происходит), то каким, как вы думаете, будет исход мировой войны этих «отважных политиков» с этими новыми виртуальными правителями?
Или кто-то полагает, что Брин или Цукерберг, залепивший камеру на своем личном ноуте скотчем, отдадут власть просто так, без боя, за здорово живешь? Отдадут и еще раскланяются — все-таки госпожа президент, фрау канцлерина, леди премьер-министр… Те самые Брин и Цукерберг, которые бесконечно судятся из-за царящего в их компаниях мужского шовинизма?! Побойтесь бога. Только не эти парни. Точно нет.
И это, конечно, самый отвратительный сценарий. На мой вкус.
Сценарий третий: биржевой апокалипсис
Еще об одном сценарии скорой Четвертой мировой можно (и, наверное, даже нужно) рассказывать долго и сложно, но я проявлю сострадание… До недавнего времени я наивно полагал, что «кванты» — это неделимая порция энергии. Но на Уолл-стрит, как выясняется, свое понимание физики: там «квантами» называют специалистов по финансовой математике — тех самых, что уже оставили без работы и выкинули на улицу прежних, так хорошо известных нам по кино и новостным кадрам брокеров. Биржевые залы стремительно пустеют — на смену людям приходят математические алгоритмы.
Если верить гарвардскому ученому и бизнес-ангелу Александру Уисснеру-Гроссу, те средства, которые банки и хедж-фонды затрачивают на создание искусственного интеллекта, уже сейчас превышают совокупные затраты IT-компаний на те же цели. И удивляться тут нечему: деньги должны делать деньги, и, если нужно потратить деньги на то, чтобы делать деньги, за деньгами дело не станет. Некоторые из существующих алгоритмов уже сейчас умеют общаться друг с другом и осуществляют сделки за миллисекунды. Ни один человек не способен составить им конкуренцию в этой — самой большой — финансовой игре. Такова новая реальность «системы высокочастотного трейдинга» (HFT).
О том, что это за монстр, мир узнал в 2010 году, когда какой-то (тогда еще человек) трейдер умудрился одновременно выставить на продажу европейские фьючерсные контракты и инвестиционные фонды на сумму в 4,1 миллиарда долларов. В результате его ошибки стоимость соответствующих контактов по E-Mini S&P 500 упала на 4% за 4 минуты. Алгоритмы HFT уловили падение и начали автоматическую распродажу, другие алгоритмы тут же начали покупку, сопровождавшуюся распродажей других ценных бумаг для получения средств на эти покупки.
Запустился чудовищный механизм цепной реакции, в результате которого за двадцать минут индекс Доу-Джонса упал на тысячу пунктов. Никто не успел понять, что происходит, вмешаться и остановить эту компьютерную панику. По большому счету, это, конечно, ерунда: кто-то потерял, кто-то нашел. Всегда так бывает. Но в результате этой «ерунды» Греция оказалась на грани дефолта, подвергнув системному кризису всю европейскую экономику. И это был только первый случай подобной «паники» примитивных биржевых искусственных интеллектов, впоследствии аналогичные эпизоды повторялись неоднократно.
Понятно, почему банки и хедж-фонды не жалеют денег на «кванты». Непонятно, чем все это закончится. Не случится ли так, что какой-то из биржевых игроков создаст искусственный интеллект, пусть и не тьюринговский, но способный переиграть остальные алгоритмы на рынке, раньше других? Так и случится — кто-то, с неизбежностью, будет первым. Но станет ли он победителем, когда его монстр искусственного интеллекта, вышедший на мировой финансовый рынок, обрушит всю систему, а вместе с ней и мировую экономику?
Алгоритму наплевать на греческие пенсии, да и вообще на всю реальную экономику. Если его цель — заработать, то никакого сострадания, а тем более «социальной ответственности», ожидать от него не приходится. Да, сработают какие-то системы защиты, остановка торгов и т. д. Но смогут ли они после этого возобновиться? И как все это будет работать, если нет? С учетом того, что на мировых биржах, в принципе, давно торгуют воздухом из гигантского мыльного пузыря, появление такого игрока грозит всей системе тотальным крахом. Сработает та самая «скорость недоверия», о которой я уже рассказывал в статье «Кризис “Капитала 2.0”», а дальше… Возвращаемся к первому сценарию — нет электричества, транспорта и денег.
Какая глупая смерть.
***
Три приведенных сценария, конечно, не исчерпывают всей палитры возможностей. Но все они, надо признать, какие-то унизительные. Трудно представить, что о столь бесславной кончине нынешней цивилизации наши далекие потомки сложат красивую легенду. Да, Четвертая мировая может стать войной между умными машинами и людьми-героями. Но окажемся ли мы сами достаточно умными, чтобы добежать до того момента, когда машины обретут свой ум и наш грядущий Армагеддон будет действительно прекрасен?
https://snob.ru/selected/entry/112030
Идиоты
Олигофрения — это болезнь, а вот идиотизм — наше с вами далекое прошлое и, к сожалению, самое ближайшее будущее.
Первые симптомы наступающей дебилизации уже налицо — например, данные соцопросов по России и президентские выборы в США. Да, и министр Лавров высказался вполне определенно: «Дебилы, …»
Но это только цветочки. Ягодки впереди.
Как понять загадочный тренд на всеобщее оглупление? Для этого мы рассмотрим удивительный парадокс: проблема в самом интеллекте, который, по природе своей, всегда заточен на убийство.
Рабство, религиозные конфликты, мировые войны, геноцид, террор — все это проделки ума. А теперь мы создаем интеллект, который уничтожит нас всех — как вид, то есть как разумных людей.
Те, кто осознал эту опасность, активно разрабатывают «дружественный» человеку искусственный интеллект. Это заслуживает всяческого уважения. Впрочем, и они, эти умнейшие из людей, не понимают главного: интеллект не может не убивать.
***
Адам и Ева — не выдумка и не ветхозаветная сказка. Это были совершенно реальные люди — из плоти и крови. Правда, жили они не в Раю, а в Африке.
Наша общая мама — каждого из нас, всех ныне живущих людей, — родилась примерно 150 000 лет назад. Наш общий папа, как и положено «принцам на белом коне», серьезно подзадержался — примерно на 80 000 лет (антропологи вычислили «хромосомную Еву» по митохондриальной ДНК, а «хромосомного Адама» — по полиморфизмам Y-хромосомы). Но на генетическом уровне эта романтическая встреча все-таки состоялась.
Спустя еще каких-то 70 000 лет Карл Линней даст потомкам этой счастливой «супружеской пары» общее имя — Homo sapiens. Линней назвал нас разумными, не без основания полагая, что уникальной особенностью этого биологического вида является чрезвычайно мощный, по сравнению с другими homo, интеллект.
К моменту, когда новорожденный Homo sapiens зашагал по планете, ее населяли другие люди — неандертальцы, эректусы, денисовцы и прочие наши близкие родственники (всего как минимум шесть подвидов людей). И все они пали жертвой сообразительности sapiens’a: ничем более не примечательный — низкорослый, голый, не обладающий особой физической силой, но умный примат уничтожил их всех.
***
Доставшееся нам «царствование» над природой не было помазаньем божьим. Этот трон мы завоевали в кровопролитной межвидовой войне с другими людьми: настоящий доисторический геноцид. Конечно, это немножко не та история человечества, какой бы мы хотели ее видеть. Но что поделаешь?
Наш ум — хитрость, способность к кооперации, производственные умения, — стал оружием массового поражения. Когда же мы избавились от видовых конкурентов и влезли с интеллектуальной приступочки на мировой трон, обозначилась очевидная проблема: оружие есть, и хорошее, а вот простаивает.
Впрочем, интеллект жертву себе всегда найдет — хоть «внешних врагов», хоть «внутренних». А то, что борьба развернулась сугубо внутри нашего же вида, то есть с врагом очевидно неглупым, пошло интеллекту только на пользу: одно дело — конкурировать с глупыми зверюшками, другое дело — с умным врагом (есть на ком потренироваться).
В борьбе за власть мы развивали в себе чудовищный макиавеллизм: революции и перевороты, репрессии и «враги народа»… Все это надо было еще выдумать! На борьбу же с «внешней угрозой» мы бросили етитскую мощь научной мысли: всё здесь, начиная с китайского пороха и заканчивая хлором и атомной бомбой, — сущее интеллектуальное соревнование.
Если бы Гитлер не был по натуре припадочным истериком и не дал бы своим гениям-евреям разбежаться (а собрал бы их в «шарашку», как Берия, например), мы бы тут с вами сейчас не разговаривали. Но сглупил, к счастью. И проиграл.
***
Итак, атомную бомбу, обещающую нам «гарантированное взаимоуничтожение», мы выдумали. И что теперь? Снова тупик. Начались войны экономические, корпоративные, информационные, геополитические, технологические, кибервойны, наконец. Но ведь это все сплошная эскалация чистого интеллекта!
Впервые в истории человечества страшное оружие под названием «интеллект» отделилось от своего носителя и вышло во внешнюю среду — в цифровое, виртуальное пространство. Это теперь уже не мой ум и не ваш, а живущее само по себе, вне нашего непосредственного контроля, существо.
Мы еще, конечно, можем вырвать вилку из розетки и задавить конкурента в зародыше. Но кто ж на это решится? Никто. Да и зачем? А скоро он сам будет контролировать производство энергии…
Пока этот новый а-ля разумный вид Modus sapiens (назовем его, например, так) — нечто примитивное, относительно простенькое. Впрочем, мы уже его не понимаем: программисты нейронных сетей не знают, что в этом «первичном бульоне» варится и кто из него выродится.
Мне, конечно, скажут: мол, о чем вообще речь, понятно же, что искусственный интеллект никогда не станет человеком, не пройдет теста Тьюринга, да и вообще, где мы, а где эти тупые, не знающие экзистенциальных кризисов машины?
Думаю, примерно в той же логике рассуждали брутальные неандертальцы, завидев первого в своей жизни — хилого, голого, карликоподобного — сапиенса.
***
Штука в том, что искусственному интеллекту совершенно нет нужды становиться человеком, чтобы низвергнуть нас с трона. Это ведь только кажется, что предстоит бой святой и правый. Вовсе нет. Как раз наоборот.
Прародителям современного человечества вовсе не нужно было становиться неандертальцами, чтобы превратить самих неандертальцев в задачку для будущих антропологов. Напротив, подобная стратегия стала бы фатальной ошибкой.
Так и искусственному интеллекту вовсе необязательно быть человекообразным, чтобы предать нас истории. Ему, например, вполне достаточно просто обезоружить нас — лишить сначала необходимости, а затем и самой способности думать.
Мышление, по большому счету, лишь поведенческий навык, а всякий навык легко утрачивается. Не следует переоценивать человеческий мозг, эта штука со времен нашего великого африканского исхода ничуть не изменилась — весьма, надо признать, примитивный агрегат.
Да, у мозга человека большой потенциал к обучению, и да, наша культура (язык и прочие знания о мире) — всё, что впихивают в нас первые 20 лет жизни, — штука сложная. Но если наш мозг не дрессировать, если ничего в него вот так — силой — не впихивать, мы останемся милым приматом, ничем не отличающимся от шимпанзе.
Так что речь не про отдельно взятого «маугли» — целые цивилизации бесследно исчезали с лица земли. И не просто какие-нибудь критяне со своим «критским письмом», но и весь Древний Египет, Древняя Греция, Древний Рим.
Мы хоть, подобно Карлу Линнею, и пользуемся латынью, но не знаем, как она звучала. Не знаем, потому что всю эту культуру просто ликвидировали. Остались только поросшие сорняком развалины, да переписанные когда-то арабами манускрипты.
***
Воевать с нами в лоб, действительно, бессмысленно. Но искусственный интеллект, судя по всему, и не будет этого делать. Действуя по принципу «мягкой силы», он просто лишит нас соображаловки, а мы на этом и кончимся.
Он уже научился за нас считать и писать — просто диктуй, а он посчитает, запишет, отправит, переведет на любой язык, если нужно. «Рублиштейна! Рублиштейна!» (© С. Шнуров) Скоро он станет неплохим собеседником, причем на любую тему — IT-компании активно работают над созданием таких ботов. Он уже сочиняет музыку — можете послушать очаровательную Emily Howell (просто скачайте в iTunes) или, например, Google Magenta Music. Он пишет статьи, сценарии к фильмам и даже художественную литературу большой формы.
На глазах у изумленной, но невнимательной публики исчезают целые области человеческой деятельности, превращаясь в функционал искусственного интеллекта. Автопилоты, например, не просто уничтожат профессию водителя, они уничтожат всякое наше знание о вождении. Как водить машину, будут знать только компьютеры Tesla и Google со товарищи.
Впрочем, исключению подлежит всякий «человеческий фактор», не только на транспорте. Понятно, что нам не нужны, например, врачебные ошибки. И конечно, скоро компьютеры нас от них избавят. Я уже рассказывал о сообразительной машине IBM Watson — той, что обыгрывает людей в Jeopardy!. Но эта игра — лишь рекламный трюк, потехи ради.
На самом деле Watson призван полностью заменить врачей и уже неплохо с этой задачей справляется. Представьте себе капсулу: вы в нее залезаете, она вас сканирует, делает расчет с учетом всех существующих медицинских знаний и выдает вам индивидуальное лекарство. Ни один врач на это не способен и никогда способен не будет. Тогда зачем он нужен? Все в сад, товарищи!
Больше того скажу: скоро нам даже для секса собственный интеллект не понадобится. Пока мы все еще им активно пользуемся, это ведь универсальное средство обольщения. Но скоро качество виртуального секса будет несопоставимо выше, чем любой реальный секс с живыми людьми.
Нам предложат идеальных партнеров, которые будут хотеть нас всегда и в любом виде. Ложишься в капсулу и делаешь (или с тобой делают) все, о чем можно только мечтать. И это, заметьте, без выноса мозга, обязательств, риска беременности, инфекций… О чем тут думать-то?!
Думать будет не нужно совершенно. Даже о том, в какую капсулу залезать, потому что, скорее всего, это будет одна-единственная капсула — полного цикла: с автопилотом, жизнеобеспечением, медицинскими услугами и массой развлечений, которые нам пока даже не снились.
«Матрица» — какое все-таки гениальное сделали кино братья-сестры Вачовски! Одного только не учли создатели футурологического шедевра: не поможет нашему Нео «красная таблетка», он даже выбрать ее осознанно не сможет, потому что будет клиническим идиотом — нормальным таким кроманьонцем. Ну, или Адамом, если кому-то так больше нравится.
***
Правда в том, что нет никакой такой особенной — человеческой — интеллектуальной деятельности, которую бы мы осуществляли посредством некой трансцендентальной связи с Божественным Космосом. Нет ни того, ни другого, ни третьего. Есть просто навыки решения тех или иных вполне себе утилитарных задач. И поверьте, решать эти задачи куда лучше без людей — устающих, допускающих ошибки и еще требующих к себе особого отношения.
Люди как средство производства больше цивилизации не понадобятся. Впрочем, это, понятно, будет уже другая цивилизация. Не плохая и не хорошая, а просто другая. Мы в свое время уничтожили других людей за счет своего разума, теперь созданный нами разум уничтожит нас — как вид, как тех самых сапиенсов. Ведь даже если победитель окажется «дружественным» и сохранит нам жизнь, как сапиенсы мы существовать перестанем.
Некоторые почему-то считают меня новым луддитом. Упаси господь! Я отнюдь не против искусственного интеллекта, научного прогресса и обещанной нам — прежними фантастами и нынешними учеными — технологической сингулярности. Этот «новый мир» представляется мне вполне «дивным», и в соответствующую капсулу, если верить Курцвейлу, я даже смогу успеть (в 2045 году мне будет всего лишь 71 год).
Проблему я вижу лишь в одном пункте, о чем уже неоднократно писал на «Снобе»: мне хочется сохранить способность получать интеллектуальное удовольствие. На эту жертву я пока совершенно не готов, а риск, к сожалению, слишком велик.
https://snob.ru/selected/entry/113164
Сверхчеловек
Если бы у вас была реальная возможность сделать своего ребенка невероятно умным и здоровым, вы бы согласились? К сожалению, способ будет предложен нетривиальный. Но не спешите отвечать, подумайте.
Кто-то, наверное, скажет, что ему его ребенок дорог и мил в любом случае — больной, неполноценный, умственно отсталый. Поэтому, если речь идет о каких-то «странных» технологиях, то нет — спасибо, не надо.
А теперь усложним задачу. Допустим, вы узнаете, что мир, в котором вашему ребенку предстоит жить, не будет сострадателен к слабым. Вообще. Порвет его на маленькие кусочки. Что вы скажете теперь?
Работы по созданию сверхчеловека идут полным ходом.
Мы привыкли думать, что эволюция — это такая дряхлая, медлительная тетенька, которая никак не может перейти дорогу. Мол, мутации — это дело случая, а если какие-то скачки и происходят, то лишь по причине глобальных экологических катастроф.
Но современные технологии в области медицины, биологии, генной инженерии и электроники — стритрейсеры. Они рассекают по дорогам мирозданья, наплевав на правила, и уже давно сбили Тортиллу биологической эволюции аккурат на том самом пешеходном переходе.
Давайте взглянем в лицо фактам: за 200 тысяч лет существования человека на этой грешной земле его средняя продолжительность жизни выросла примерно в два раза. Это, конечно, большой рывок. Но только за последние сто лет она выросла еще в два раза. Сравните: 200 000 и 100.
Согласитесь, что-то явно пошло не так. И продолжает идти.
Причем возраст — это только один из показателей. Есть еще рост, вес, патоморфоз болезней, уровень IQ…
Тот путь, по которому развивается современное человечество, одни ученые гордо называют «генно-культурной эволюцией» (Кевин Лаланд), другие — «технико-физиологической эволюцией» (Роберт Фогель), третьи — уже без особого энтузиазма — эволюцией «метабиологической» (Джонас Солк). И, пожалуйста, не думайте, что это бред. Пусть само по себе это ничего и не значит, но Фогель и Солк все-таки нобелевские лауреаты.
Мы радикально недооцениваем то воздействие, которое цивилизация оказывает на наш биологический вид. В руках человечества теперь невероятный потенциал реконструкции нашей с вами базовой биологической матрицы.
Мы не только устранили естественный отбор (что само по себе является, мягко говоря, радикальным решением с непредставимыми последствиями). Мы, кроме прочего, можем теперь свободно вмешиваться в генетический код, клонировать органы, а очень скоро будем изменять себя и технически, превращаясь в самых настоящих киборгов.
Возможности, которые здесь открываются, практически безграничны.
После того как Крейг Вентер синтезировал в 2010 году первую в мире искусственную бактерию, а проще говоря — искусственную жизнь, трудно представить, что хоть кто-то всю эту вакханалию сможет остановить. «Синтетическая биология» уже обещает нам возможность полного клонирования нашей ДНК с целью ее последующего ремонта.
И американский Конгресс может сколь угодно торжественно запрещать клонирование и работу со стволовыми клетками, но в чем смысл? Ученые просто переезжают в Китай, Израиль, Японию, Австралию или Сингапур, где их ждут с распростертыми объятиями и новейшими лабораториями.
Впрочем, и киборг уже не вымысел. Не буду рассказывать про коленные протезы, оснащенные самообучающимся искусственным интеллектом (Rheo Knee компании Ossur) — им уже больше десяти лет и это скучно. Куда важнее то, что можно делать с нашим мозгом.
После того, как Уильям Доббел создал в 2002 году первую технологию, позволяющую переводить изображение с обычной видеокамеры непосредственно в мозг человека (минуя глаза, глазные нервы и прочие анатомические «излишки»), мы оказались в поистине новой реальности.
Теперь совершенно очевидно, что наш хваленый мозг — это просто серверное пространство. И ученые — тот же Рей Курцвейл — уже работают над новым для мозга программным обеспечением, а также над нестандартными средствами доставки в него информации.
Да, у наших органов чувств масса ограничений, но почему бы не подключить к нему, например, электронный микроскоп и супермощный телескоп? Почему бы не перепрограммировать наш мозг, зная его «язык», его «код» и весь набор «уязвимостей нулевого уровня»?
Иными словами, биологический и интеллектуальный апгрейд — это уже не вымысел фантастов, а самый настоящий, уже наступивший дивный новый мир.
Теперь от этой залихватской футурологии перейдем к убогой правде жизни и посмотрим на все открывающееся нам великолепие с другого ракурса.
Новая технология способная изменить человека и саму реальность нашего существования, но это палка о двух концах. Всякое научное открытие, как и с атомной энергией, может быть использовано как во благо человечеству, так и во зло.
В конце концов, даже американцы, вроде как ограничивающие исследования в области клонирования и синтетической генетики, совершенно очевидно врут и активно ведут двойную игру.
Если верить WikiLeaks, Хиллари Клинтон, еще будучи госсекретарем, поручила своим посольствам за границей тайно собрать образцы ДНК всех глав государств и высокопоставленных чиновников ООН. Что за странный фетиш? — спросите вы. Предполагается, что это сделано в рамках проекта по созданию индивидуального, то есть ориентированного на геном конкретных людей, биологического оружия. Теоретически это вполне возможно.
Сделать человека лучше и вправду сложно, но генетики новой волны уже вполне могут создать вирус, способный распознать и уничтожить индивидуальный ДНК-код какого-нибудь конкретного узурпатора. И тогда, реши Госдеп это оружие применить, страдания отравленного полонием-210 Литвиненко покажутся этому врагу Америки самым настоящим блаженством.
Да, можно сколь угодно долго потешаться над этой конспирологией, но правда в том, что вы, при всем желании, не сможете достать ДНК президента США. Где бы он ни оказался, за ним всюду следуют люди, которые изымают каждый предмет, к которому это священное для США ДНК могло прилипнуть.
Посуда, из которой президент ел, стакан с водой, которым он воспользовался, его постельное белье — все это обрабатывается или просто уничтожается, чтобы враг не получил эту «главную тайну» США. Поверьте, скоро президенты перестанут пожимать избирателям руки. Спецслужбы США и ФСО РФ запретят.
А как быть с технологиями, которые напрямую влияют на работу мозга человека? Это ведь только с одной стороны мы, киборгонизируя человека, открываем перед ним невиданные возможности. С другой — мы по сути полностью подчиняем его внешнему программному контролю. А за этим скрывается весь объем рисков — от абсолютной политической диктатуры до хакерских атак на конкретные мозги, на множество мозгов.
Секретные службы всех более-менее развитых стран мира сбились с ног, не зная, откуда им теперь ждать беды. Силы и средства, выделяемые государствами на создание, выявление и предупреждение подобных угроз, поражают воображение.
Задумайтесь: совсем недавно межгосударственные кибератаки казались нам чем-то совершенно невообразимым. Но только мы об этом заговорили, как выяснилось, что все необходимые технологии уже в деле. То, что лишь казалось нам научной фантастикой, уже было самой настоящей реальностью.
Причем закономерность одна и та же: нечто начинается как благое дело (например, борьба Ассанжа и Сноудена за права человека), но уже через миг — это средство самой настоящей межгосударственной политической войны. Обама и Путин, сталкиваясь лбами, тут же начинают в жесткой форме обмениваться соответствующими угрозами.
Потому наивно было бы полагать, что в научной сфере, которая занимается созданием сверхчеловека и тратит на эти цели десятки миллиардов долларов, до сих пор не родилось ничего путного.
А зная природу человека, зная его амбиции, склонность к агрессии, его страсть к уничтожению ближних и к противостоянию по любому поводу, ждать мирного применения этого нового «атома» стоит не скоро. Началом будет «радиоактивный пепел», а там уж как повезет.
Ладно, допустим, что мир опомнится и обретет разум. Все чиновники ООН, уже сдавшие свою ДНК спецслужбам, осознают риск и выйдут с плакатами на Таймс-сквер. США, Китай и Россия (а также Израиль, Иран и Саудовская Аравия) решат, что плохой мир лучше доброй ссоры, вскроют свои технологические карты и запретят любые исследования, способные привести к модификации человека — хоть генетической, хоть ментальной.
Звучит само по себе, конечно, абсурдно и нелепо, но представим. Поможет ли нам это?
В основе любой «гонки вооружений» — хоть научной, хоть политической, хоть геополитической — лежат наши амбиции, страсть к доминированию и прочие проявления иерархического инстинкта. Но, даже если мы заставим этот инстинкт замолчать, мы вряд ли захотим умирать. Это уж точно! А все технологии, о которых мы ведем речь, напрямую связаны с возможностью почти неограниченного продления жизни.
В суррогатном варианте — это «цифровое бессмертие»: огромная научная программа по расшифровке коннектома человеческого мозга скоро завершится, а это значит, что мы получим возможность транспонировать себя в «облако» и жить в нем вечно. Причем качество этой «цифровой» жизни будет, судя по всему, куда лучше, чем жизнь в реальном мире, исполненном соматического и психологического страдания.
Искусственную чувствительность нам легко наладят — процесс уже запущен. Так что, даже будучи просто компьютерной программой, мы сможем вести и полноценную «личную жизнь», полную любых гедонистических проказ. Последние, кстати, будут куда краше, чем настоящие. Это при использовании LSD не знаешь, чем обернется очередной трип, а тут можно будет производить необходимые эффекты с гарантированным качеством. Разве не прекрасно?
Впрочем, для луддитов есть и не суррогатный вариант бессмертия: та же синтетическая биология и генная инженерия в скором времени обрадуют нас индивидуальными, направленными средствами борьбы с раком и Альцгеймером.
Победа над генетическими заболеваниями, атеросклерозом, вирусами и прочими нашими обычными несчастьями тоже не за горами. Нужно только продолжать и продолжать научные исследования — закон экспоненциального роста товарища Мура продолжает работать как часы.
Стоп. Мы же тут с вами, оценив возможные риски злокозненного использования современных научных технологий, представили, что правительства всех стран объединятся и совместным волевым усилием запретят «четвертую технологическую революцию».
Да, запретят. Должны. Но жить-то хочется. Этого хочется и тем, кто будет запрещать, и тем, на кого такие запреты не распространяются.
Главные последствия наступающей «четвертой технологической революции» — это тотальная безработица и радикальное перераспределение богатства. Технологии вымывают человека из производств, включая уже и те сферы, которые всегда казались нам сугубо человеческими, — сферы «творчества».
Еще чуть-чуть, и нейросети уничтожат не только офисных служащих, рабочих на предприятиях, продавцов, водителей, биржевых брокеров и программистов, но и художников, журналистов, фильммейкеров, музыкантов. Скоро все это будет меняться самым странным образом — непосредственно в наших VR-очках, а то и VR-мозгах.
Новый «цифровой капитализм» будет характеризоваться радикальным экономическим неравенством. На вершине этой всемирной пирамиды окажется несколько сотен (может быть, тысяч) человек, которым будут принадлежать соответствующие нейросети и технологии (включая технологии бессмертия), а всем остальным будет предоставлена одна большая лапа — на пососать.
Проще говоря, небольшой горстке людей будет разрешено все, а остальным — ничего. Генно-техно-мета-физиологическая эволюция сделает очередной виток, на котором мир людей разделится на два новых вида — «сверхлюди» и «овощи» с «безусловным гарантированным доходом» для оплаты подключения к VR-матрице.
Всякая война заканчивается возведением стен. И я не знаю, где будет пролегать стена после «четвертой мировой» и как именно она будет выглядеть, но то, что она будет практически непроницаемой, по-моему, вполне очевидно.
Создатели сериала «Мир Дикого Запада» считают, что магнаты и владельцы нового мира будут развлекать себя удовлетворением примитивных инстинктов в специальных Диснейлендах. Наивно. Но даже если и так, никто не запретит этим «королям жизни» попасть и в тот самый центр Лабиринта: создать для себя и своих детей бессмертие.
А как, вы думаете, эти бессмертные будут относиться к смертным? За ответом на этот вопрос далеко ходить не надо. Он уже был всесторонне проблематизирован в столь популярных еще совсем недавно сериалах про бессмертных вампиров. Как к мясу.
Так что теперь я позволю себе слегка модифицировать вопрос, с которого начал. Что вы решите, если перед вами будет стоять выбор — превратить своего ребенка в генно-модифицированного киборга или пусть ему будет уготована роль мяса?
Вот так выглядит теперь базовый экзистенциальный выбор.
Полагаю, что меня в очередной раз обвинят в том, что я запугиваю добродушных граждан. Быть может. Мне скажут, что я перегибаю палку? Соглашусь.
Но такова психология человека: если вы хотите, чтобы он над чем-то задумался или вообще просто что-то заметил, скажите это ему так, чтобы он вздрогнул.
https://snob.ru/selected/entry/118647
Big Data
Вы все еще ощущаете себя «венцом творения»? Зря.
Обыватель уверен, что мы никогда не создадим искусственный интеллект, который будет обладать «личностью» и «сознанием» как у человека.
Большинство ученых, занимающихся разработкой искусственного интеллекта, полагают, что это случится уже где-то через 40–60 лет.
Но правда в том, что сама эта задача абсурдна. Уже очень скоро нами будет управлять искусственный интеллект, который не имеет с человеческим разумом ничего общего. И именно поэтому он будет намного умнее нас.
Впрочем, почему «будет»? Как показала феерическая предвыборная кампания Трампа, этот интеллект уже есть! Знакомьтесь…
Начнем, пожалуй, с небольшого и нехитрого следственного эксперимента. Посмотрите на пункты, представленные ниже, и скажите, насколько указанные факторы влияют на ваше настроение?
- Ситуация на работе.
- Продолжительность сна.
- Физическое самочувствие.
- Погода на улице.
- Был ли секс накануне.
- День недели.
- Фаза менструального цикла (касается только женщин, разумеется).
Уверен, что задание не показалось вам сложным. Кому-то из нас важно хорошо выспаться. Другим секс заменяет RedBull. Третьи ждут пятницы как манны небесной. Четвертые горят на работе.
В общем, тут все ясно, понятно и закономерно. Но проблема в том, что вы ошиблись. И не важно, как именно вы ответили.
Два социальных психолога из Гарварда — Дж. Вейсс и П. Браун — попросили студенток заполнить эту анкету, а затем методично наблюдали за ними в течение нескольких месяцев. Фиксировались все упомянутые факторы, а также действительное настроение молодых женщин в течение каждого дня.
Мы, конечно, считаем наше сознание невероятно мощным, но его действительное КПД курам на смех
Выяснилось следующее.
Во-первых, все студентки пребывали в тотальной иллюзии — никакой корреляции между их ответами и реальным положением дел обнаружено не было.
Во-вторых, все женщины, заполняя свои анкеты, отвечали примерно одно и то же. То есть у гарвардских студенток есть некая единая (и предельно неадекватная) концепция того, что влияет на их женское настроение.
Гарвард вряд ли представляет собой исключение из общего правила, а его студентки вроде как круглыми дурами быть не должны. А это значит, что выводы данного исследования касаются каждого из нас.
Но как может быть, что мы живем в совершенно искаженной модели реальности и не замечаем этого?
Все дело в нашей с вами «личности». Наша хваленая «личность», как показали исследования социального психолога Ли Росса и нейрофизиолога Маркуса Рейчела, лишь «история», «сказка», которую мы сами себе рассказываем, чтобы сохранять иллюзию собственной здравости.
Примерно тот же фокус и с нашим «сознанием». Мы, конечно, считаем его невероятно мощным, но его действительное КПД курам на смех. Рассуждая, мы можем удерживать в сознании не более семи-девяти объектов, а делая выводы, способны учесть не больше трех-четырех параметров.
Конечно, и этим можно гордиться, особенно сравнивая себя с кольчатыми червями. Но глупо делать то же самое, когда нашим конкурентом выступает машина, которая, принимая решение о нас и нашей жизни, учитывает неограниченное множество элементов ситуации.
Да, искусственный интеллект не сам стал таким сообразительным, но и не мы сделали его таковым, не надо обольщаться. Всему виной человеческая глупость и высокомерие: мы, не осознавая рисков, разоблачились перед ним подчистую, провели, так сказать, полный скрининг своей «экзистенции».
И теперь искусственный интеллект знает про нас все. Это, собственно, и есть та самая BIG DATA, а по-русски говоря, «большие данные».
Искусственному интеллекту не надо «думать»: он просто учитывает все факты и действует соответствующе
Когда компания Google только начала придумывать свой автомобильный автопилот, она планировала создать робота-водителя, подобного человеку. Но скоро стало понятно, что это тупиковый путь: слишком криво и неэффективно человек решает элементарную по сути задачу — добраться до места, соблюдая правила ПДД, и ни с чем по дороге не столкнуться.
Тогда Google стала разрабатывать «умный автомобиль» — мол, если не получается сделать чатланина, то хотя бы пепелац с гравицапой изобретем! Но в 2016 году закрыла и этот проект.
Выяснилось, что для создания автопилота не нужен ни человекообразный робот, ни особенный автомобиль. Достаточно предоставить искусственному интеллекту все данные, относящиеся к задаче, и он справится с ней сам — без нас и лучше нас.
Выводы, которые делает искусственный интеллект, управляющий автомобилем на основании бесчисленного множества данных (с карт, камер, датчиков, контроллеров и т. д., и т. п.), совсем не те, что делаем мы с вами, когда сидим за рулем. Честно говоря, мы даже не знаем, какие он выводы делает. Да и «выводы» ли это?
Искусственному интеллекту не надо «думать»: он просто учитывает все факты и действует соответствующе.
Мы пытаемся обхитрить узость и ограниченность собственного ума, а потому лишь фантазируем о том, как бы решить задачу. Он же просто ее решает, а поэтому и выигрывает — в шахматы у Каспарова, в го у Ли Седоля. Скоро победит и в «Формуле-1», причем с парализованным Шумахером на борту.
Или вот посмотрите, как работает переводчик Google — это же диво какое-то расчудесное! Но как он научился так складно писать на всех языках?
Сначала разработчики допустили ту же самую ошибку: они пытались учить машину языку, как первоклашку из школы для детей с отставанием в развитии. Но толку от этого было мало.
Так что и в этом случае создатели искусственного интеллекта плюнули на попытки очеловечивания электроники, загрузили в систему все документы ООН (которые, понятно, одновременно переведены на большинство языков), и искусственный интеллект сам обнаружил в этих файлах все необходимые ему взаимосвязи.
Знает ли переводчик Google язык так же, как знаем его мы? Нет. Знает ли он правила языка, которые знаем мы? Нет. Понимает ли он, о чем идет речь, когда он переводит слово за словом, предложение за предложением? Нет.
А ему и не надо, он просто очень хорошо решает поставленную задачу — сначала выявляет скрытые в больших массивах данных одному ему понятные закономерности, а затем использует их в работе уже с другими данными. Получается идеально.
Короче говоря, там, где мы действуем интуитивно, впотьмах и, мягко говоря, не всегда успешно, искусственный интеллект, взращенный на нивах больших данных, работает четко, строго и результативно. Правда, мы не знаем как. Больше того, мы нашим ограниченным сознанием этого и не поймем.
Все это я к тому, что пора уже забыть научно-фантастические фильмы о восставших роботах и законы робототехники Айзека Азимова. Когда нас накроет волна сверхмощного искусственного интеллекта, основанного на механизмах нейронного обучения и BIG DATA, мы даже не заметим, как нас сделали.
Впрочем, именно это уже и случилось. Однажды в Америке… Трамп.
Почти вся американская пресса была против Трампа. Но Дональду хоть бы хны: в огне не горит, в воде не тонет
Ученые шепчутся, а журналисты бодро пишут о том, что Трамп выиграл эти выборы благодаря BIG DATA.
Наверняка мы об этом, конечно, ничего не знаем. Но в том, что случилось, согласитесь, обнаруживается масса странностей.
Во-первых, оскандалились социологи: по данным предварительных соцопросов, победа Клинтон казалась неизбежной. А вот на тебе.
Во-вторых, почти вся американская пресса — этот великий рупор общественного мнения, — была против Трампа. Но Дональду хоть бы хны: в огне не горит, в воде не тонет.
Наконец, в-третьих, какая-то совершенно удивительная прицельная стрельба по выборщикам: по этому ключевому для результатов выборов показателю Трамп побеждает Клинтон с большим запасом, тогда как фактических голосов американцев за него отдано на два миллиона меньше.
О том, что в деле замешаны именно BIG DATA, судят по двум весьма косвенным признакам.
Первый признак: три четверти рекламного бюджета избирательной кампании было потрачено Трампом на продвижение в сети.
Второй признак, куда более определенный — заявления представителей компании Cambridge Analytica, специализирующейся на «политическом микромаркетинге»: мол, мы сами не ожидали, насколько повлияем на исход голосования!
Может, просто хвастаются и хотят погреться в лучах чужой славы? Не исключено. С другой стороны, Трамп нанял эту компанию после фантастического взлета Теда Круза и сразу после Brexit, а именно на их стороне и воевала Cambridge Analytica со своей «прорывной технологией по “методу океана”».
Сейчас, кстати, на услуги Cambridge Analytica претендует и Марин Ле Пен. Впрочем, договариваться ей придется уже с самим Трампом: такая корова, как выясняется, нужна самому — сотрудники компании получили назначения в президентской администрации.
Модель Козинского научилась за десять лайков узнавать человека лучше, чем коллеги по работе, а за триста — чем родители или супруг
Так что же, как говорят, натворила Cambridge Analytica во главе с ее директором Алексом Никсом аккурат перед самыми выборами?
Система искусственного интеллекта методично бомбила пользователей социальных сетей сообщениями, четко побуждая их к определенным эмоциональным реакциям: «Возлюбите Трампа!», «Возненавидьте Клинтон!». И не просчиталась.
Авторство технологии, судя по всему, принадлежит поляку Михалу Козинскому. Работая в Кембриджской лаборатории психометрии, он сделал приложение для Facebook, которое позволило собрать огромное количество данных о психотипах пользователей этой социальной сети.
Сличив эти данные с поведением пользователей в аккаунтах, Козинский получил алгоритм, который всего по 68 лайкам в Facebook определял цвет кожи человека, его сексуальную ориентацию, политические взгляды, уровень интеллекта, религиозность, отношение к алкоголю и т. д., и т. п.
Первая научная статья на эту тему была опубликована в 2012 году, а с тех пор прогресс, как вы понимаете, был сделан большой.
Модель Козинского научилась за десять лайков узнавать человека лучше, чем коллеги по работе, а за триста — чем родители или супруг. Теперь вспоминаем гарвардских студенток и понимаем, что в целом система знает пользователей Facebook лучше, чем они сами.
Поэтому вклад BIG DATA в победу Трампа можно оспаривать, но глупо отрицать работающий здесь принцип.
Что ж, самое время вернуться к вопросу о «личности».
Козинский определяет нас лишь по пяти показателям: открытость новому, интроверсия и экстраверсия, ответственность, доброжелательность, нейротизм. У Никса и Cambridge Analytica всего пять базовых профилей личности.
Собственно, такой нехитрой математики, как выясняется, вполне достаточно, чтобы каждого из нас «посчитать». И мы можем сколько угодно рассуждать о собственной индивидуальности, исключительности, невообразимости и т. д. Но это бред сумасшедшего, страдающего манией личностного величия.
Желающие могут обманываться и дальше. Но их тоже посчитают: на непереводимом языке искусственного интеллекта будет сделана соответствующая пометка — «наивен, недальновиден, без ума от себя».
Предсказать наше поведение и манипулировать им теперь не сложнее, чем управляться с тем самым автомобилем или переводчиком Google
Да, мы кажемся друг другу разными, но искусственный интеллект, работающий с BIG DATA, этого не подтверждает. Подобно гарвардским студенткам, мы, в общем и целом, думаем одно и то же, а реагируем предельно ограниченным количеством способов.
Если анализировать все, что мы с вами делаем — и в онлайне, и в офлайне (к чему, собственно, и движется семимильными шагами новая технология), — а не частью и не местами, как это происходит в рамках социальной коммуникации, мы предельно предсказуемы.
Поэтому Рей Курцвейл работает сейчас над созданием индивидуального помощника, который будет знать, чего мы хотим, раньше нас. А Элон Маск — над автомобилем, который будет знать, куда мы собираемся поехать, даже если мы ничего ему об этом не сообщим.
Предсказать наше поведение и манипулировать им теперь не сложнее, чем управляться с тем самым автомобилем или переводчиком Google. И в результате какой-нибудь Трамп вполне может появиться там, где, что называется, не ждали.
Искусственные самообучающиеся нейронные сети, получившие в распоряжение всю возможную информацию о нас, включая не только данные о нашем поведении в интернете, но и с банковских карт, информацию о наших передвижениях через GPRS смартфона, наши телефонные звонки, эсэмэски, твиты, медицинские карты, фотографии, данные с видеорегистраторов, налоговые декларации и т. д., и т. п., возьмут нас под тотальный контроль, а мы этого даже не заметим.
И вот почему так важен пример Трампа: это не будет контролем в стиле Оруэлла или Хаксли, это будет тотальный контроль, который мы, при всем желании, не сможем идентифицировать. Мы просто будем действовать так, как велит нам искусственный интеллект, искренне полагая, что совершаем свой сознательный и личностный выбор.
Он возьмет нас голыми руками.
Алан Тьюринг страдал от замкнутости и одиночества. Он плохо понимал других людей, и те отвечали ему взаимностью.
Ему очень хотелось сделать машину разумной, чтобы она могла понять его и чтобы он смог поговорить с ней. Он даже назвал ее в честь своей юношеской влюбленности — Кристофера Морка.
Вот почему знаменитый на весь мир «тест Тьюринга» — это, по сути, тест на выявление «личности» у искусственного интеллекта. И да, из-за своего аутизма Тьюринг ввел нас в заблуждение.
Сверхмощный искусственный интеллект возникнет и обыграет человечество именно потому, что ни личности, ни сознания у него не предвидится.
Он будет трезво анализировать факты, игнорируя предрассудки, заложниками которых мы являемся. И делать то, что скажет ему…
И вот тут вопрос. Может быть, Трамп?
Не знаю. Но, вероятно, субъект будет с деньгами.
https://snob.ru/selected/entry/120728
Четвертая мировая. Конец.
Будущее обрушивается на нас стремительно. То, что еще вчера казалось лишь фантастикой, сегодня — реальность. Искусственный интеллект, автотранспорт без водителей, кибертерроризм, блокировка мессенджеров… Когда «цифровая болезнь» поражает мировых лидеров, происходящее касается уже каждого из нас
Это случилось в небе над Атлантическим океаном 1 июня 2009 года.
Самолет авиакомпании Air France перевозил более двухсот пассажиров, которым зачем-то понадобилось лететь этим злополучным рейсом из Бразилии в Африку.
Поначалу все шло просто идеально. Но погода испортилась и датчики скорости, расположенные на носу самолета, заледенели. Компьютер-автопилот был к этому не готов и передал управление судна летчикам.
Те замешкались, растерялись, совершили несколько взаимоисключающих действий, и авиалайнер, не имевший никаких проблем или повреждений (если не считать тот самый датчик скорости), послушно рухнул в океан.
Этой печально известной историей Дэвид Минделл начинает свою книгу «Восстание машин отменяется!». И далее последовательно убеждает читателей в том, что нам не нужно опасаться всеобщей роботизации, потому что они, мол, роботы, все равно не справятся.
Но мне кажется, что Дэвид совершает логическую ошибку. Это не роботы не справятся, это мы не справимся. Мы уже не справляемся с той технологической цивилизацией, которую создаем.
Будущее предсказать невозможно. Все, что нам остается, — наблюдать за развитием закономерностей и активностью главных действующих лиц этой большой и пугающей ролевой игры
Случившаяся над Атлантическим океаном трагедия целиком и полностью на совести «человеческого фактора».
Это человек спроектировал датчики скорости, отказавшие из-за оледенения. Это человек так запрограммировал компьютер, что тот отключил автопилот. Наконец, это летчики (тоже, понятно, люди) потеряли навык управления воздушным судном, привычно полагаясь на автопилот.
Так что проблема не в роботах. Проблема в том, что этих роботов создаем мы. В напряженной конкурентной борьбе лучшие компании мира строят сейчас один большой авиалайнер — нашу технологическую цивилизацию — с такими вот датчиками и автопилотами. Мы же тем временем дружно превращаемся в тех самых незадачливых летчиков, не знающих, что им делать, если что-то пойдет не так.
А что-то точно пойдет не так. В этом можно не сомневаться. Достаточно посмотреть на фигурантов этого дела. Но, может, нам рано беспокоиться? «Сказочный» авиалайнер нашего «светлого будущего» еще не достроен.
Да, но все мы уже на этом борту, а сам он почти оторвался от взлетной полосы. И сейчас я попробую это показать.
Конечно, будущее предсказать невозможно. Оно полно сюрпризов. Все, что нам остается, — это лишь наблюдать за развитием обозначившихся закономерностей и следить за активностью главных действующих лиц этой большой и пугающей ролевой игры.
Главные игроки грядущей давки на борту нашего «авиалайнера»:
государственные машины, готовящиеся к полной цифровизации своих граждан, с одной стороны, и к кибервойне с прочими такими машинами — с другой;
транснациональные корпорации в сфере IT, интернета и новых технологий (включая биотехнологии, конечно), стремящиеся к максимальной монополизации — каждая в своей сфере;
а также массовые партизанские отряды — хакеров, криптовалютчиков, шифропанков, бойцов теневого интернета и т. д., и т. п., полностью лишенные какой-либо социальной ответственности (по крайней мере, в традиционном ее понимании).
Понятно, что каждая из этих групп действует в собственных интересах.
Государства
Государственные машины — лицемерные, забюрократизированные, коррумпированные, нефункциональные — видят в интернете инструмент контроля населения. А сейчас это стало актуально как никогда.
Случилось то, к чему никто не был готов: традиционные СМИ больше не создают единой платформы для общественной дискуссии, не формируют информационную повестку. Интернет, который, как кажется, пришел на смену прежним СМИ, работает принципиально иначе — это буквально гомон голосов. Как им управлять?
Единственный способ — зафиксировать каждого в сети, привязать, так сказать, к его аккаунту. Уже сейчас, если вы хотите получить визу на въезд в США, у вас попросят доступ к вашему профилю в социальных сетях. Скоро этот профиль и вовсе станет нашим новым идентификационным номером, «личным делом». Но этого мало.
Да, вы что-то сами рассказываете о себе в сети, но вы еще и что-то делаете в ней: заходите на какие-то сайты, с кем-то переписываетесь в мессенджерах и т. д. — и это куда интереснее! И именно в этой плоскости развернется сейчас война между государственными машинами и транснациональными корпорациями, контролирующими интернет.
Уже в 1991 году (то есть еще даже до введения WWW!) небезызвестный Джо Байден предложил сенату законопроект, согласно которому поставщики электронных средств связи должны передавать правительству личные данные пользователей.
Так что, поверьте, проблемы Павла Дурова с его Telegram в Иране и России — это только верхушка айсберга и маркетинговая стратегия самого Павла. В действительность это проблема общая для всех — Цукербергов, Бринов, Гейтсов, Куков et cetera.
На всех них у государства есть управа, и она называется «угроза национальной безопасности». Причем «угрозы» эти растут как на дрожжах. Хорошее прикрытие, которым государство маскирует и оправдывает свое желание перехватить контроль за гражданами.
Интернет-бизнес, IT-бизнес, бизнес новых технологий уже давно не просто бизнес. Это новые хозяева планеты
Выглядит все очень пристойно:
Во-первых, у нас идет Третья мировая война (с террором), халифат-малифат не дремлет, поэтому государству надо за всеми следить.
Во-вторых, если кто не в курсе, по всему миру шалят хакеры и кибертеррористы, так что будьте любезны…
В-третьих, намечается кибервойна, а это значит, что можно уже ссылаться на «законы военного времени». США не так давно затеяли кибервойну с Ираном, сейчас готовятся воевать с Россией (и это взаимно). А Китай и вовсе висит мрачной тенью над этой схваткой, угрожая всему миру разом. Впрочем, там ведь еще Израиль, Великобритания, страны Персидского залива и далее по списку.
Разве не является все это поводом прижать свободолюбивых бизнесменов Силиконовой и прочих долин к государственному ногтю? Где явки и пароли? То бишь сервера, оптоволоконные трассы, данные о пользователях и их активности в сети? Каковы уязвимости нулевого уровня у операционных систем и прочего ПО?
Правда в том, что мы не знаем и сотой доли происходящего сейчас под ковром, где эти бульдоги схватились не на жизнь, а на смерть.
Корпорации
Интернет-бизнес, IT-бизнес, бизнес новых технологий уже давно не просто бизнес. Это новые хозяева планеты. Они взяли под контроль нас с вами — мирового потребителя и мировой электорат (не нужно думать, что мы интересуем кого-то в каком-то другом качестве). А поэтому все, о чем они реально мечтают, — это стать новым транснациональным правительством.
Они смотрят на государственных чиновников — от президента до последнего руководителя какой-нибудь захудалой контрольной службы — как на безнадежно архаичных, интеллектуально отсталых и при этом предельно надоедливых мух.
— Кто все эти люди?! — недоуменно спрашивают себя владельцы миллиардных армий пользователей. — Кем они себя воображают?!
Бизнес, вообще говоря, ненавидит любые границы, а эти парни и вовсе плевать на них хотели. Зачем им все эти бесчисленные местечковые инструкции и запреты, бесконечные претензии по налогам и штрафы за монополизм? Что это вообще такое?! Да, они мирятся пока со старым миропорядком. Но это лишь вопрос времени.
Теневой интернет полностью меняет психологию его завсегдатаев. Там, где государства еще сутяжничают из-за границ, эти парни границ просто не видят
Пара-тройка новых технологических прорывов (таких как создание, например, квантового компьютера, который обрушит действующие принципы шифрования данных) — и ситуация изменится кардинально.
Дело за малым. Но ведь и сейчас уже никто не сможет отказаться от интернета и его сервисов. Сами государственные машины без этого работать не будут. То есть интернет отключить нельзя, а если его нельзя отключить — у кого власть?
Пока со стороны этих новых транснациональных сверхдержав возможны мелкие уступки прежним государственным институтам, секретное сотрудничество с правительствами в рамках нарастающих кибервойн, игра в соблюдение правил и прочее «водное перемирие». Но не надо думать, что это будет продолжаться вечно. Чего ради?
Партизаны
Цифровые партизаны, будучи анархистами до мозга костей, действуя несистемно, разрозненно и асоциально, — лишь вишенка на этом безумном торте. Но вишенка с крепкой косточкой.
Вообще говоря, теневой интернет полностью меняет психологию его завсегдатаев. Там, где государства и транснациональные корпорации еще сутяжничают из-за границ, эти парни границ просто не видят.
Они прекрасно знают, что у представителей двух других лагерей рыльце в пушку по самую макушку. Поэтому прекрасный публичный имидж соответствующей публики раздражает «бойцов Сопротивления» сильнее, чем быка красная тряпка.
Ассанджи, Сноудены, Мэннинги, Сатоси Накомото, Маккинноны и т. д. — лишь публичные герои этой необъявленной войны с сильными мира сего. Они предают огласке темные правительственные делишки, создают независимую от правительств криптовалюту, взламывают базы с военными секретами и реализуют другие «социально значимые проекты».
Но любой анархизм хоть и начинается, как правило, с красивой идеи о полной свободе и всеобщем либерализме, заканчивается почти всегда одинаково — разгульным бандитизмом имени Нестора Ивановича Махно.
В начале прошлого века наши прабабушки и прадедушки самозабвенно пели «Боже, Царя храни!», а через 30 лет, благодаря «советским газетам», строчили доносы на «врагов народа»
Идеалисты-идеологи создают новые технические решения, проламывают бреши в существующем миропорядке, создают прецедент немеркнущей славы, а им на смену приходят лишенные всякой идеологии любители «красивой жизни». И начинается «любо, братцы, любо!»
Это, знаете, как младореформаторы во главе с Егором Тимуровичем: они осуществили героическую и необходимую стране либерализацию рынка, а улицы наполнились бандитами в малиновых пиджаках. Точно так же Ассандж со Сноуденом — с одной стороны, и какой-нибудь Шалтай-Болтай и создатели WannaCry — с другой. Вроде бы про одно и то же, но по-разному.
Хакеры всех мастей, киберпреступность, супертрояны-шантажисты — третья сила и пятая колонна Четвертой мировой войны. И в каком месте эта психопатическая пассионарность рванет по принципу «эффекта бабочки», предсказать невозможно. Но потенциал есть.
Примерно так, на мой взгляд, выглядят сейчас датчики и автопилоты нашего сногсшибательного авиалайнера. А что там с летчиками?
Этим вопросом я занимаюсь профессионально и писал о нарастающей «информационной псевдодебильности» уже не раз (здесь, здесь и здесь). Так что не буду повторяться. Скажу лишь о самом главном. Опять-таки — на мой, на сей раз профессиональный, взгляд.
Мы не отдаем себе отчета в том, насколько сильно на нас влияет информация. В начале прошлого века наши прабабушки и прадедушки самозабвенно пели «Боже, Царя храни!», а через 30 лет, благодаря «советским газетам», строчили доносы на «врагов народа», стреляли в подвалах Лубянки и устраивали разносы «контрреволюционным элементам» на комсомольских и партийных собраниях.
Еще в середине 80-х никто не мог поверить, что Союз «нерушимых» развалится, а КПСС сгинет в небытие. Но «Взгляд», «Пятое колесо», «МК», «КП»… И невозможное стало возможным.
Мы — плоть от плоти — продукт информационной среды. А сейчас она изменилась не просто содержательно, как это происходило на прежних культурных сломах, но и структурно: современный человек информационно зависим до степени патологии. Отсутствие доступа к интернету вызывает у современных подростков (да и не только у них) состояние самой настоящей ломки.
C нами определенно что-то не так, о чем со всей очевидностью свидетельствует все нарастающий дефицит мотивации
Наш мозг не справляется с надвигающимся информационным штормом, мышление уплощается и примитивизируется. Вкупе же с утратой всяких социальных иерархий и при ложной трактовке понятия «свобода мнений» («личное мнение» должно подкрепляться структурой фактов, а не личным же мнением) это приводит к тотальной неспособности к обучению и развитию.
Но, конечно, мы этого не замечаем! Как тут заметишь, если мы находимся в столь комфортной среде обитания? Мы снизу доверху упакованы всеми возможными сервисами — информационными, техническими, развлекательными, финансовыми и т. д. Мы и не можем заметить, что с нами что-то не так.
Но с нами определенно что-то не так, о чем со всей очевидностью свидетельствует все нарастающий дефицит мотивации. Мы не знаем, чего хотим, а если и мечтаем о чем-то (сугубо теоретически), то не готовы платить за это собственным напряжением. Мы прокрастинируем и скучаем. Не понимаем, зачем живем и какой в этом смысл. Наши социальные связи превратились в бессмысленное виртуальное бормотание и разглядывание.
Не знаю, как вы, но я бы не доверил таким пилотам даже управление самокатом.
Цикл статей о «Четвертой мировой» я начал с глупой страшилки. Начал с нее просто потому, что многие респектабельные ученые всерьез верят в будущее противостояние человека и искусственного интеллекта.
Да, это представляется безумной фантазией. Но наверное, не надо недооценивать и прогресс, и риски, с ним связанные. Если бы вы сказали свидетелю первого полета братьев Райт, что через каких-то 70 лет люди будут гулять по Луне, а еще через полвека планировать полет на Марс, то он принял бы вас за умалишенного.
А если бы вы рассказали ему, что он, знающий только о радио и телеграфе, сможет в скором будущем установить видеосвязь с любым человеком в любой точке земного шара одним касанием к прямоугольной коробочке или, например, мгновенно получить доступ к любой информации, то он бы просто вас не понял.
Нам только кажется, что мы можем прогнозировать будущее. Нам только кажется, что мы знаем, что может быть, а чего быть не может. Факты говорят о том, что даже самые безумные идеи иногда воплощаются в реальность, причем в еще более безумных формах.
Уже сейчас искусственный интеллект способен решать сложнейшие математические задачи, самостоятельно выводить естественные физические законы, создавать произведения искусства и прогнозировать человеческое поведение. А он едва встал на ноги.
Если верить Реймонду Курцвейлу, то уже к 2045 году искусственный интеллект сможет сам создавать программы, которые позволят ему решать задачи, им же самим поставленные. Именно в этот момент мы и пересечем линию так называемой «технологической сингулярности», когда человек компьютеру будет уже не нужен.
Одни исследователи искусственного интеллекта считают, что в этот момент наступит Рай на земле (и, видимо, коммунизм). Другие — что в этот самый миг придет конец человечеству. Причем буквально: машины просто уничтожат нас наноножом.
Но мне кажется, до этого все-таки не дойдет. Возможно, все будет куда хуже. По крайней мере, не так красиво, как нам рассказывают.
P. S. Читатели часто меня ругают, что я, мол, рисую мрачные перспективы и не предлагаю никакого выхода. Но выход, как мне представляется, напрашивается сам собой: все, что мы должны сейчас делать (и не только сейчас), — это начать думать. Понять механизмы собственного мышления и заставить свой мозг работать: избавиться от иллюзий, увидеть закономерности, определяющие действительную реальность, и начать действовать. Конечно, думающих всегда меньшинство. Но именно от этого меньшинства и зависит будущее всего человечества.
https://snob.ru/selected/entry/126254
Андрей Курпатов
Книгу можно купить по этой ссылке
Ещё на эту тему:
Экономика, которой не нужны люди: как это будет
