| Термин “сингулярность” часто используется для описания гипотетического момента, когда искусственный интеллект превзойдет человеческий и начнет совершенствоваться с неконтролируемой скоростью. Проще говоря, люди часто используют термин “сингулярность” для обозначения момента, когда ИИ становится сознательным, подобно тому, как Скайнет осознает себя в фильме "Терминатор". Но понятие “технологическая сингулярность” возникло как более широкая метафора для обозначения точки, за которой технологические изменения становятся настолько быстрыми, что людям трудно предсказать будущее. |
| |
| В 1958 году математик Станислав Улам вспомнил разговор с физиком Джоном фон Нейманом об ускорении технического прогресса, достигающего “некоторой существенной сингулярности” в человеческих делах. На тот момент этот термин не относился к теории машинного сознания. Но в 1993 году математик и писатель-фантаст Вернор Виндж сделал эту концепцию влиятельной в кругах искусственного интеллекта. В своей книге "Грядущая технологическая сингулярность" Виндж утверждал, что создание интеллекта, превосходящего человеческий, может привести к стремительным изменениям в цивилизации, после чего наша способность предсказывать события утратит силу. |
| |
 |
| |
| Футуролог Рэй Курцвейл позднее популяризировал этот термин, особенно в своей книге 2005 года «Сингулярность уже близка». В этой работе он дал термину «сингулярность» более конкретное определение, утверждая, что к 2045 году люди сольются со всё более мощным небиологическим интеллектом. И хотя сегодня многие из нас обеспокоены опасностями, которые таит в себе искусственный интеллект, а некоторые эксперты даже считают, что «сингулярность ИИ» уже наступила, идея Курцвейла гораздо более радикальна. Он не просто утверждает, что машины разовьют те же способности, что и человеческий мозг. Он говорит, что машины, управляемые искусственным интеллектом, сольются с нашим мозгом и станут с ним единым целым. И с точки зрения технооптимизма Курцвейла, это хорошо. |
| |
| В 2005 году это могло показаться немного притянутым за уши. Но с учётом последних достижений в области нейронных протезов и интерфейсов «мозг — компьютер» — и, конечно, в области искусственного интеллекта — предсказание Курцвейла о сингулярности теперь кажется гораздо более правдоподобным. Тем не менее некоторые аспекты его концепции кибернетической сингулярности противоречат здравому смыслу, и в них не так-то просто поверить. Как именно машина может слиться с человеком? Как человеческое сознание может быть загружено в облако? Кем бы я был, если бы являлся бессмертной цифровой копией самого себя, живущей в небиологическом теле? |
| |
| В переработанном издании своей книги 2024 года под названием «Сингулярность уже близко» Курцвейл отвечает на эти и многие другие подобные вопросы. Он подчеркивает, что перенос человеческого сознания из наших тел в небиологические системы не произойдет одномоментно и не будет иметь какой-то один конкретный способ реализации. На самом деле этот процесс уже начался в виде цифровых симуляций нашей внешности, образа мышления и манеры говорить. Курцвейл, неисправимый оптимист, видит и положительную сторону современной проблемы дипфейков. |
| |
| По его словам, «благодаря нашей цифровой активности мы уже создаем невероятно подробные записи о том, как мы мыслим и что чувствуем, и в течение этого десятилетия наши технологии записи, хранения и организации этой информации будут стремительно развиваться. К концу 2020-х годов мы сможем оживлять эти данные в виде небиологических симуляций, которые будут представлять собой максимально реалистичные воссоздания людей с уникальными личностными характеристиками». |
| |
| Процесс переноса людей в цифровые копии уже происходит в виде таких устройств, как кохлеарные имплантаты, которые позволяют глухим людям слышать, систем, позволяющих парализованным людям управлять компьютерами, и более современных имплантатов, таких как Neuralink. Курцвейл представляет себе все более прочные формы этих и других искусственных органов, которые вскоре значительно повысят наш естественный уровень силы и долголетия. В определенный момент эти различные протезы и симуляции станут более совершенными и будут объединены в роботизированные версии нас самих, которые будут настолько убедительными, что их невозможно будет отличить от вас самих в оригинале. |
| |
| Курцвейл позаимствовал название для этого шага в нашей эволюции к кибернетической сингулярности у Филиппа К. В 1968 году вышел классический научно—фантастический роман Дика "Мечтают ли андроиды об электрических овцах?", который позже был экранизирован как "Бегущий по лезвию бритвы". “Со временем репликанты могут даже поселиться в кибернетически дополненных биологических телах, выращенных из ДНК оригинального человека”, - пишет он. |
| |
| И вот тут вопрос о том, кто есть кто и что есть что, становится немного сложнее. Потому что, если имитация вас на самом деле сделана из вашей ДНК и содержит все ваши воспоминания и личностные черты, кто скажет, что это на самом деле не вы? Курцвейл называет такого рода репликанта полноценной личностью "Вы 2". “Насколько важно, был ли создан репликант с помощью искусственного интеллекта и интеллектуального анализа данных, в отличие от полностью загруженного разума You 2 из чьего-то живого мозга?” - спрашивает он, хотя подтекст очевиден. Одно дело — убедительный дипфейк, и совсем другое — живая копия, наделенная всеми чертами оригинала. |
| |
| Курцвейл отмечает, что в связи с этим возникают непростые вопросы о репликантах из фильма «Ты 2». |
| |
| «Можно ли считать их людьми, обладающими всеми гражданскими правами (например, правом голосовать и заключать договоры)? Несут ли они ответственность за подписанные договоры или преступления, совершенные ранее человеком, которого они воспроизводят? Могут ли они претендовать на заслуги или социальный вклад человека, которого они заменяют? Нужно ли вам снова вступать в брак с вашим покойным супругом или супругой, если они вернулись в виде репликанта? Будут ли репликанты подвергаться остракизму или дискриминации? При каких условиях создание репликантов должно быть ограничено или запрещено?» |
| |
| Ответы на эти и подобные вопросы десятилетиями служили материалом для научно-фантастических произведений, так что они не новы, хотя и кажутся слишком странными, чтобы чувствовать себя спокойно. |
| |
| Но самое главное, что все эти достижения приведут к революции, движущей силой которой станут нанороботы. В настоящее время нанороботы используются в основном для доставки лекарств, но, по мнению Курцвейла, они — ключ к нашей окончательной кибернетической эволюции в небиологических людей. Самое главное, они сделают наш мозг в миллионы раз мощнее, чем сейчас. Как пишет Курцвейл, «в 2040-х и 2050-х годах мы перестроим свои тела и мозг так, чтобы они вышли далеко за пределы возможностей нашей биологии, в том числе в плане резервного копирования и выживания. С развитием нанотехнологий мы сможем создавать оптимизированные тела по своему желанию: мы сможем бегать гораздо быстрее и дольше, плавать и дышать под водой, как рыбы, и даже отрастить себе крылья, если захотим. Мы будем думать в миллионы раз быстрее, но самое главное — наше выживание не будет зависеть от сохранности какого-либо из наших тел». |
| |
| Разумеется, у всего этого есть и обратная сторона, и, по мнению Курцвейла, самая серьёзная опасность заключается в том, что нанороботы могут выйти из-под контроля и начать бесконтрольно размножаться. Они могут размножаться так быстро, что поглотят буквально весь органический материал на поверхности Земли, превратив всё в бесформенную массу. |
| |
| Курцвейл пишет: «Самый обсуждаемый сценарий наихудшего развития событий — это потенциальное создание “серой слизи” — самовоспроизводящихся машин, которые поглощают углеродсодержащую материю и превращают её в новые самовоспроизводящиеся машины». Этот процесс может привести к неконтролируемой цепной реакции, в результате которой вся биомасса Земли превратится в такие машины. |
| |
| Но давайте поверим Курцвейлу на слово и предположим, что этого не произойдет и его кибернетическая сингулярность все-таки наступит. И что тогда? Возможно, самая насущная проблема заключается в том, что мы не сможем отличить себя настоящих от наших реплик или небиологических расширений. Другими словами, что в конечном счете будет означать слово «человек» в контексте контроля со стороны человека, когда в 2030-х годах мы начнем использовать нейрокомпьютерные интерфейсы для принятия решений с участием небиологических компонентов? Этот небиологический компонент будет расти в геометрической прогрессии, в то время как наш биологический интеллект останется прежним. |
| |
| Таким образом, к концу 2030-х годов наше мышление будет по большей части небиологическим. Так где же будет находиться центр принятия решений, когда наше мышление будет в значительной степени опираться на небиологические системы? |
| |
| Можно ли будет отличить одно от другого? |
| |
Источник
Аномальные новости со всего мира: https://ufonews.su/news149/616.htm |
|