Прогнозы влияния ИИ на общество и эволюцию человечества
Согласно известному выражению «человек — венец природы», закрепившемуся в сознании людей в виде аксиомы, человек часто рассматривается как вершина эволюции, причем речь идет в первую очередь об интеллектуальных способностях человека.
Исходя из данных рассуждений, можно сказать, что наиболее сильным вызовом для человека является создание еще более мощного интеллекта на новом искусственном носителе, опережающего интеллект человеческий по всей совокупности способностей — по сути, это и есть задача построения сильного (общего) искусственного интеллекта.
Если основной вехой в развитии ИИ мы видим глобальную перспективу в виде появления сильного интеллекта (AGI), то интересно проанализировать, как мы представляем себе развитие человека и его роль рядом с эволюционирующим ИИ.
Здесь есть два пути — путь дивергенции и конвергенции. Первый следует логике разделения живого интеллекта и искусственного и все большего отставания человеческого интеллекта от искусственного. Более того, если перед человеком стояла задача создать ИИ, превышающий его по возможностям, то перед созданным сильным ИИ, вероятно, также будет стоять (как наиболее глобальная и всеобъемлющая задача) задача воссоздать себя на более совершенном уровне и, возможно, на новых архитектурных принципах и новых носителях информации, что, собственно, и будет считаться очередным витком эволюции, при котором человек в привычном нам виде остается недоразвитым предком в эволюционной цепи.
Согласно Нику Бострому, скорость этой эволюции при появлении сверхразума может быть такова, что будет похожа на вспышку (мы приводили соответствующую картинку в первой лекции).
Второй путь — путь конвергенции — исходит из акцента на том, что тезис «человек — вершина эволюции» является относительным, полагая, что и сам человек продолжает эволюционировать. При этом вполне вероятно, что наиболее быстрый эволюционный путь будет доступен как процесс сближения и даже сращивания живого и искусственного интеллекта по мере реализации гибридизации человека, когда человек интегрирует элементы ИИ внутри себя.
Здесь речь идет об эволюции человека под воздействием ИИ, этот процесс также называют процессом коэволюции человека и искусственного интеллекта (рис. 5.5).
Причем рис. 5.5 показывает, что коэволюция «человек — ИИ» — это закономерный этап процесса эволюции Homo sapiens, и так же, как появление культуры в широком смысле этого слова (разум, язык, наука и т. п.) оказало влияние на эволюцию человека, так и развитие человека в условиях сосуществования с совершенствующимся ИИ неизбежно будет сопровождаться изменениями самого человека. Причем некоторые стадии в развитии человека на разных стадиях, таких как возникновение сложных нейронных сетей, решение научных задач, генерация текстов и изображений, явно имеют аналоги в этапах развития ИИ, а новые возможности ИИ уже активно используются человеком для усиления своих способностей по принятию решений в освоении внешнего мира.
Рис. 5.5. Этапы эволюции биологических и цифровых систем188.
Как же будет эволюционировать человек и какую роль здесь сыграет ИИ?
На этом пути, в свою очередь, тоже есть несколько сценариев. Первый — это воздействие на сознание методами генной инженерии (которая все более активно использует инструментарий ИИ). Второй — это сращивание интеллектуальных способностей человека со все более доступными источниками информации и системами поддержки принятия решений на базе искусственного интеллекта (что мы наблюдаем уже сейчас). Человек все больше обрастает носимыми гаджетами, имеющими постоянное подключение для мониторинга состояния этого человека и поддержки принятия различного рода решений на основе связи со встроенным в гаджет и удаленным ИИ. Третий — это сращивание живой и неживой материи, что, например уже наблюдается в виде процесса вживления чипов в мозг животных и человека. Уже сегодня есть возможность определенного биоусо-вершенствования, которое мы обсуждали выше (умные экзоскелеты и цифровые протезы, управляемые силой мысли).
В будущем комбинация биологического и цифрового может создавать новые гибридные формы жизни в материальном мире, реализуя их дополнительные возможности. И, наконец, наименее изученный и осмысленный сценарий — это путь, связанный с реализацией возможности переноса ментального опыта человека (воспоминания, эмоции, переживания) на компьютерный носитель.
Конечно, вопросы конвергенции человека и ИИ — это лишь один из аспектов совместной эволюции человечества и искусственного интеллекта.
Несомненно, что ИИ вызовет глубокую трансформацию жизни большинства людей на планете, изменит то, как люди работают, взаимодействуют друг с другом, привнесет все те новации, которые мы, в частности, рассматривали при обсуждении применения ИИ в разных отраслях.
Заметим, что вопросы возможности реализации негативных и даже катастрофичных сценариев развития человечества под влиянием ИИ, как правило, выходят за рамки логики, которую можно вывести из известных на сегодняшний день ИИ-технологий и примеров их рационального применения.
Станет ли ИИ источником процветания человечества, решит его извечные проблемы в виде голода, нищеты, болезней, или ИИ окажется основой нового смертоносного оружия, которое приведет к гибели Homosapiens? Станет ли ИИ источником гармоничного развития человечества, или новым более мощным инструментом порабощения человека человеком, или причиной развития экологической катастрофы и т. п.?
Заметим, что эти вопросы появились не только с развитием ИИ-технологий, напротив, они применимы ко многим трансформирующим новациям, которые стали частью эволюции человечества. ИИ — это не единственная технология, которая несет в себе экзистенциальные риски. Человечество окружило себя массой изобретений, которые могут быть использованы как во благо человечества, так и во вред. Известно выражение, что ученые рано или поздно изобретут все то, что интеллект человека может изобрести в принципе. Эта присущая человеку жажда создания нового с опорой на силу мысли таит в себе определенные риски. Человек обладает спектром противоречивых качеств (альтруизм, любовь, способность жертвовать собой ради ближнего и в то же время эгоизм, тщеславие, жажда наживы, себялюбие и т. п.).
Что будет происходить с границами приватности? Мы видим, что человек сознательно отказывается от прежнего уровня приватности ради социального капитала и пользы, приобретаемой от цифровых сервисов. К чему приведет противостояние сил, ратующих за соблюдение приватности пользователя, и сил, использующих эрозию правды в Интернете, сил, которые не хотят так просто отказаться от одного из своих самых ценных ресурсов в виде подробной информации от миллиардов пользователей?
По всей видимости, в рамках анализа эволюции техники (о которых в первую очередь шла в этом курсе) и выкладок точных наук мы не сможем дать ответ на перечисленные вопросы. Большинство ответов на эти вопросы зиждятся на анализе траектории развития самого человека, логика которого заложена в природе сознания и интеллекта этого человека. На многие вопросы люди до сих пор не смогли дать согласованного ответа. В то время как человек приобретает все больший объем данных и знаний, становится ли он более добрым, справедливым, честным, человечным?
Мы видим, как формируется общественная мысль, как совершенствуется институт права, развиваются учения о морали и нравственности, меняется представление людей о том, каким должно быть справедливое общество. Но мы не можем однозначно оценить, насколько образцы морали и нравственности укореняются в сознании человека. Не можем утверждать, наблюдаем ли мы процесс прогрессивной эволюции нравственности или люди из прошлого были более чисты, невинны и, вкусив плоды цивилизации, лишь приобрели новые пороки.
В развитии многих технологий существует период, в процессе которого человечество учится адаптироваться к этому новому, нивелировать опасности, предусмотреть риски и подчинить очередную технологию процессу освоения мира на благо человечества.
Выразим надежду на то, что человечеству хватит интеллекта, чтобы употребить создаваемый им ИИ себе во благо, а форма реализации ИИ, видимо, будет зависеть от того, как понятие «благо» будет восприниматься и трактоваться нашими потомками.
Согласно известному выражению «человек — венец природы», закрепившемуся в сознании людей в виде аксиомы, человек часто рассматривается как вершина эволюции, причем речь идет в первую очередь об интеллектуальных способностях человека.
Исходя из данных рассуждений, можно сказать, что наиболее сильным вызовом для человека является создание еще более мощного интеллекта на новом искусственном носителе, опережающего интеллект человеческий по всей совокупности способностей — по сути, это и есть задача построения сильного (общего) искусственного интеллекта.
Если основной вехой в развитии ИИ мы видим глобальную перспективу в виде появления сильного интеллекта (AGI), то интересно проанализировать, как мы представляем себе развитие человека и его роль рядом с эволюционирующим ИИ.
Здесь есть два пути — путь дивергенции и конвергенции. Первый следует логике разделения живого интеллекта и искусственного и все большего отставания человеческого интеллекта от искусственного. Более того, если перед человеком стояла задача создать ИИ, превышающий его по возможностям, то перед созданным сильным ИИ, вероятно, также будет стоять (как наиболее глобальная и всеобъемлющая задача) задача воссоздать себя на более совершенном уровне и, возможно, на новых архитектурных принципах и новых носителях информации, что, собственно, и будет считаться очередным витком эволюции, при котором человек в привычном нам виде остается недоразвитым предком в эволюционной цепи.
Согласно Нику Бострому, скорость этой эволюции при появлении сверхразума может быть такова, что будет похожа на вспышку (мы приводили соответствующую картинку в первой лекции).
Второй путь — путь конвергенции — исходит из акцента на том, что тезис «человек — вершина эволюции» является относительным, полагая, что и сам человек продолжает эволюционировать. При этом вполне вероятно, что наиболее быстрый эволюционный путь будет доступен как процесс сближения и даже сращивания живого и искусственного интеллекта по мере реализации гибридизации человека, когда человек интегрирует элементы ИИ внутри себя.
Здесь речь идет об эволюции человека под воздействием ИИ, этот процесс также называют процессом коэволюции человека и искусственного интеллекта (рис. 5.5).
Причем рис. 5.5 показывает, что коэволюция «человек — ИИ» — это закономерный этап процесса эволюции Homo sapiens, и так же, как появление культуры в широком смысле этого слова (разум, язык, наука и т. п.) оказало влияние на эволюцию человека, так и развитие человека в условиях сосуществования с совершенствующимся ИИ неизбежно будет сопровождаться изменениями самого человека. Причем некоторые стадии в развитии человека на разных стадиях, таких как возникновение сложных нейронных сетей, решение научных задач, генерация текстов и изображений, явно имеют аналоги в этапах развития ИИ, а новые возможности ИИ уже активно используются человеком для усиления своих способностей по принятию решений в освоении внешнего мира.
Рис. 5.5. Этапы эволюции биологических и цифровых систем188.
Как же будет эволюционировать человек и какую роль здесь сыграет ИИ?
На этом пути, в свою очередь, тоже есть несколько сценариев. Первый — это воздействие на сознание методами генной инженерии (которая все более активно использует инструментарий ИИ). Второй — это сращивание интеллектуальных способностей человека со все более доступными источниками информации и системами поддержки принятия решений на базе искусственного интеллекта (что мы наблюдаем уже сейчас). Человек все больше обрастает носимыми гаджетами, имеющими постоянное подключение для мониторинга состояния этого человека и поддержки принятия различного рода решений на основе связи со встроенным в гаджет и удаленным ИИ. Третий — это сращивание живой и неживой материи, что, например уже наблюдается в виде процесса вживления чипов в мозг животных и человека. Уже сегодня есть возможность определенного биоусо-вершенствования, которое мы обсуждали выше (умные экзоскелеты и цифровые протезы, управляемые силой мысли).
В будущем комбинация биологического и цифрового может создавать новые гибридные формы жизни в материальном мире, реализуя их дополнительные возможности. И, наконец, наименее изученный и осмысленный сценарий — это путь, связанный с реализацией возможности переноса ментального опыта человека (воспоминания, эмоции, переживания) на компьютерный носитель.
Конечно, вопросы конвергенции человека и ИИ — это лишь один из аспектов совместной эволюции человечества и искусственного интеллекта.
Несомненно, что ИИ вызовет глубокую трансформацию жизни большинства людей на планете, изменит то, как люди работают, взаимодействуют друг с другом, привнесет все те новации, которые мы, в частности, рассматривали при обсуждении применения ИИ в разных отраслях.
Заметим, что вопросы возможности реализации негативных и даже катастрофичных сценариев развития человечества под влиянием ИИ, как правило, выходят за рамки логики, которую можно вывести из известных на сегодняшний день ИИ-технологий и примеров их рационального применения.
Станет ли ИИ источником процветания человечества, решит его извечные проблемы в виде голода, нищеты, болезней, или ИИ окажется основой нового смертоносного оружия, которое приведет к гибели Homosapiens? Станет ли ИИ источником гармоничного развития человечества, или новым более мощным инструментом порабощения человека человеком, или причиной развития экологической катастрофы и т. п.?
Заметим, что эти вопросы появились не только с развитием ИИ-технологий, напротив, они применимы ко многим трансформирующим новациям, которые стали частью эволюции человечества. ИИ — это не единственная технология, которая несет в себе экзистенциальные риски. Человечество окружило себя массой изобретений, которые могут быть использованы как во благо человечества, так и во вред. Известно выражение, что ученые рано или поздно изобретут все то, что интеллект человека может изобрести в принципе. Эта присущая человеку жажда создания нового с опорой на силу мысли таит в себе определенные риски. Человек обладает спектром противоречивых качеств (альтруизм, любовь, способность жертвовать собой ради ближнего и в то же время эгоизм, тщеславие, жажда наживы, себялюбие и т. п.).
Что будет происходить с границами приватности? Мы видим, что человек сознательно отказывается от прежнего уровня приватности ради социального капитала и пользы, приобретаемой от цифровых сервисов. К чему приведет противостояние сил, ратующих за соблюдение приватности пользователя, и сил, использующих эрозию правды в Интернете, сил, которые не хотят так просто отказаться от одного из своих самых ценных ресурсов в виде подробной информации от миллиардов пользователей?
По всей видимости, в рамках анализа эволюции техники (о которых в первую очередь шла в этом курсе) и выкладок точных наук мы не сможем дать ответ на перечисленные вопросы. Большинство ответов на эти вопросы зиждятся на анализе траектории развития самого человека, логика которого заложена в природе сознания и интеллекта этого человека. На многие вопросы люди до сих пор не смогли дать согласованного ответа. В то время как человек приобретает все больший объем данных и знаний, становится ли он более добрым, справедливым, честным, человечным?
Мы видим, как формируется общественная мысль, как совершенствуется институт права, развиваются учения о морали и нравственности, меняется представление людей о том, каким должно быть справедливое общество. Но мы не можем однозначно оценить, насколько образцы морали и нравственности укореняются в сознании человека. Не можем утверждать, наблюдаем ли мы процесс прогрессивной эволюции нравственности или люди из прошлого были более чисты, невинны и, вкусив плоды цивилизации, лишь приобрели новые пороки.
В развитии многих технологий существует период, в процессе которого человечество учится адаптироваться к этому новому, нивелировать опасности, предусмотреть риски и подчинить очередную технологию процессу освоения мира на благо человечества.
Выразим надежду на то, что человечеству хватит интеллекта, чтобы употребить создаваемый им ИИ себе во благо, а форма реализации ИИ, видимо, будет зависеть от того, как понятие «благо» будет восприниматься и трактоваться нашими потомками.
-
Add a note