К чему приведет очеловечивание роботов?
19 февраля 2018
19.02.2018 - 4:00
Да, роботы стремительно очеловечиваются. Они уже умеют переживать и образуют иерархические сообщества для совместного решения сложных задач. Но сможет ли человек сохранить контроль над искусственным интеллектом?
С точки зрения человеческого разума эти задачи кажутся, правда, вовсе не сложными: открыть вдвоём дверь, например, если у одного не хватает соображения справиться с ручкой.
Но, во-первых, это уже решение задачи на уровне кошки или собаки — не самых глупых животных в природе. А во-вторых, работы над искусственным интеллектом в мире не стоят на месте, а движутся как бы и не опережающими темпами. И с точки зрения профессионалов не за такими уж дальними горами время, когда сообщества роботов начнут выполнять задачи, человечеству неподвластные.
А самое главное при этом то, о чём профессионалы стараются вне своего круга не говорить: вовсе нет гарантии, что человек сможет контролировать такие сообщества носителей искусственного интеллекта.
Точнее говоря, есть гарантия, что не сможет.
Пугалка? Нет, естественный результат логики научной работы
«На самом деле по поводу искусственного интеллекта, восстания машин — шутки шутками, но этот вопрос действительно серьёзно поднимается, причём на весьма серьёзном уровне», — признал начальник лаборатории робототехники НБИКС-центра в Курчатовском институте и вице-президент Российской ассоциации искусственного интеллекта Валерий Карпов.
НБИКС — это нано-, био-, инфо- когнитивные и социальные технологии, исследуемые и разрабатываемые в одном междисциплинарном комплексе с целью создания новых природоподобных устройств и систем.
Задумано это для блага человека: муравей поднимает, относительно своего веса, больше шагающего экскаватора, а человеческий мозг тратит всего 30 ватт энергии для решения задач, неподвластных суперкомпьютеру, который требует десятки мегаватт для своей работы. Это сравнимо с ГЭС-1 на Раушской набережной в Москве, что зимой так уютно развешивает полотна белого дыма над Кремлём.
А вот что получится, когда самостоятельные муравьи с искусственным интеллектом начнут самостоятельно объединяться в СМУ и бригады и рыть котлованы или строить дома? Или робот с более логичным, более совершенным, менее подверженным эмоциям мозгом станет решать, что правильно, а что — нет, что нужно делать, а что — нельзя? Прислушаются ли они к мнению человека по этому поводу?
Далеко не факт, считают учёные. Полностью проконтролировать искусственный интеллект человек не сможет в принципе. «Когда вы имеете дело со сложной системой, то влезть внутрь её и полностью проконтролировать — дело абсолютно безнадёжное, — уверенно заявил Владимир Карпов. — Как увидеть, что „чёрный ящик“, который выполняет некие функции, соответствует человеческим нормам, этическим принципам и так далее? Системой тестов, системой наблюдений — иного выхода нет и быть, к сожалению, не может. А уж интеллектуальная система, которая претендует на разумность — это совсем тяжёлая вещь».
Искусственный интеллект неподконтролен в принципе
Интелект
Понять эту невозможность на простом примере предлагает главный «ответственный» за разработки искусственного интеллекта в Курчатовском институте, вице-президент этого национального исследовательского центра (НИЦ) Олег Нарайкин.
Можно представить систему из 5 элементов, отметил он. Она вполне обозрима, и человек вполне в состоянии разобраться в любой ситуации, которая с этими пятью элементами может случиться, в любой комбинации.
А теперь возьмём любую техническую систему из большого количества элементов, например, из 5 триллионов. «Такая система уже необозрима, — указал учёный. — И это я не говорю об искусственном интеллекте — нет, простая техническая система, в которой такое количество элементов. С ней нельзя не только управиться, но даже предвидеть».
А уж если говорить о такой системе, как искусственный интеллект, то он в разы сложнее, и очень возможно, что он может выйти из-под контроля, и с ним ничего нельзя будет сделать, считает Олег Нарайкин. Но при этом не преминул добавить нотку оптимизма: «На всякое действие есть возможность выработать компенсирующие решения».
«Интеллект и разум всё-таки разные вещи, — попытался успокоить общественность Валерий Карпов, отвечая на вопрос „Царьграда“. — Интеллектуальные функции у компьютера гораздо лучше развиты, чем у человека. По крайней мере, рассудочная деятельность, эффективность её у формальных систем гораздо лучше, чем у биологического объекта».
Правда, чем разум отличается от интеллекта, учёный обоснованно пояснить так и не сумел, вдруг соскользнув на трюизм вроде того, что «здесь надо аккуратнее подходить к задачам, терминам, целям».
Словом, до конца вопрос управляемости систем с искусственным интеллектом прояснён не был.
Контроль ещё будет?
Институт им. Курчатова
Впрочем, это, разумеется, не вина учёных Курчатовского института, которые на самом деле в работе над искусственным интеллектом идут не только в когорте мировых лидеров, но нередко и опережая всех. То есть «Курчатник», как его называют любя, реально стал одним из тех центров отечественной науки, где не действуют печальные констатации о её развале и отставании от мирового уровня.
В вопросе контроля над искусственным интеллектом в некотором раздрае и недоумении находится вся мировая наука. В ней, впрочем, уже выделилось направление, которое занимается формулированием тех самых этических и моральных требований к искусственным системам, что должны будут однажды быть заложены во все комплексы с искусственным интеллектом. На уровне, условно говоря, не перенастраиваемого БИОСа.
Пока же в Курчатовском институте сумели создать некое сообщество роботов, умеющее решать задачи, непосильные для отдельной «особи». Для этого, как рассказал Валерий Карпов, нужно было перенести на технические устройства те социальные модели, что уже существуют в природе.
«Есть задача, которую сложно решить с помощью одного робота, — рассказал о сути работы исследователь. — Тогда можно пытаться эту задачу решить с помощью нескольких роботов. Ну, плохо роботы совместно решают задачи. Не получается. И тогда нам пришло в голову — а пускай роботы попробуют организовать социальное сообщество. Социум роботов. И уже несколько лет это направление развивается, есть подвижки».
Это так называемая групповая или коллективная робототехника, пояснил учёный. И результат есть. На основе природоподобных механизмов — подражания, доминирования, и многих других, роботы некоторые частные задачи в рамках социума уже решают, подчеркнул Карпов. И получается гораздо интереснее, чем если бы они решали их по отдельности.
Простите, а кто тогда мы, люди?
Действительно — не ведут ли эти работы к появлению некое нового разумного «человечества» — из роботов? Интеллектуальные возможности, как видим, наличествуют, социальные связи и поведение — конструируются. Даже эмоции, как утверждают учёные, нынешним роботам уже не чужды. Тоже научили!
Робот может обладать эмоциями, и эти системы у нас есть, рассказал Валерий Карпов. Эмоции — важный аспект в управлении техническим объектом. Они стабилизируют поведение, отвечают за память, акцентируют внимание. Более того, уже существует робот, психику которого можно двумя регуляторами буквально подкручивать, превращая его из меланхолика в холерика, из холерика в сангвиника и так далее. Чисто техническая надобность, как оказалось: искусственный интеллект должен обладать эмоциями, чтобы в разных ситуациях соответствующим образом реагировать на внешний мир.
И что тогда робота — пусть не сейчас, но в обозримом будущем — отличит от человека?
Ответ на этот вопрос «Царьграду» уже дали люди из другого научного сообщества. Это произошло на конференции по развитию цифровой экономики Союзного государства России и Белоруссии. На ней подводились итоги исследований контуров грядущей цифровой реальности, которые своим грантом профинансировал Российский фонд фундаментальных исследований (РФФИ). Там и было сказано примерно следующее.
Главное отличие человека от робота — в реальности. За человеком — реальность. За ним — время, за ним обстоятельства, которые формировали и его, и общество, за ним история. Он включён в реальность мира, он — её неотъемлемая часть.
А робот — создание. Он — вне реальности, пришелец в нашем мире. Отключи его от питания — и он вновь вне реальности, вне существования. Он — не творец мира, он — инструмент, с помощью которого мир творится. Отключил его — как молоток в ящик положил.
Звучит, в общем, успокаивающе. Но вот можно ли будет при необходимости положить в ящик робота, обладающего сверхчеловеческим разумом, регулируемыми эмоциями и собственной волей — вопрос.
На который, правда, человечество знает ответ. С тех пор, как Каин убил Авеля.
Но точно ли тогда мы отличим робота от человека?
Покровский Александр
Царьград
Читайте также: Океан выбросил на берег гигантское существо с метровой пастью (ФОТО)
Да, роботы стремительно очеловечиваются. Они уже умеют переживать и образуют иерархические сообщества для совместного решения сложных задач. Но сможет ли человек сохранить контроль над искусственным интеллектом?
С точки зрения человеческого разума эти задачи кажутся, правда, вовсе не сложными: открыть вдвоём дверь, например, если у одного не хватает соображения справиться с ручкой.
Но, во-первых, это уже решение задачи на уровне кошки или собаки — не самых глупых животных в природе. А во-вторых, работы над искусственным интеллектом в мире не стоят на месте, а движутся как бы и не опережающими темпами. И с точки зрения профессионалов не за такими уж дальними горами время, когда сообщества роботов начнут выполнять задачи, человечеству неподвластные.
А самое главное при этом то, о чём профессионалы стараются вне своего круга не говорить: вовсе нет гарантии, что человек сможет контролировать такие сообщества носителей искусственного интеллекта.
Точнее говоря, есть гарантия, что не сможет.
Пугалка? Нет, естественный результат логики научной работы
«На самом деле по поводу искусственного интеллекта, восстания машин — шутки шутками, но этот вопрос действительно серьёзно поднимается, причём на весьма серьёзном уровне», — признал начальник лаборатории робототехники НБИКС-центра в Курчатовском институте и вице-президент Российской ассоциации искусственного интеллекта Валерий Карпов.
НБИКС — это нано-, био-, инфо- когнитивные и социальные технологии, исследуемые и разрабатываемые в одном междисциплинарном комплексе с целью создания новых природоподобных устройств и систем.
Задумано это для блага человека: муравей поднимает, относительно своего веса, больше шагающего экскаватора, а человеческий мозг тратит всего 30 ватт энергии для решения задач, неподвластных суперкомпьютеру, который требует десятки мегаватт для своей работы. Это сравнимо с ГЭС-1 на Раушской набережной в Москве, что зимой так уютно развешивает полотна белого дыма над Кремлём.
А вот что получится, когда самостоятельные муравьи с искусственным интеллектом начнут самостоятельно объединяться в СМУ и бригады и рыть котлованы или строить дома? Или робот с более логичным, более совершенным, менее подверженным эмоциям мозгом станет решать, что правильно, а что — нет, что нужно делать, а что — нельзя? Прислушаются ли они к мнению человека по этому поводу?
Далеко не факт, считают учёные. Полностью проконтролировать искусственный интеллект человек не сможет в принципе. «Когда вы имеете дело со сложной системой, то влезть внутрь её и полностью проконтролировать — дело абсолютно безнадёжное, — уверенно заявил Владимир Карпов. — Как увидеть, что „чёрный ящик“, который выполняет некие функции, соответствует человеческим нормам, этическим принципам и так далее? Системой тестов, системой наблюдений — иного выхода нет и быть, к сожалению, не может. А уж интеллектуальная система, которая претендует на разумность — это совсем тяжёлая вещь».
Искусственный интеллект неподконтролен в принципе
Интелект
Понять эту невозможность на простом примере предлагает главный «ответственный» за разработки искусственного интеллекта в Курчатовском институте, вице-президент этого национального исследовательского центра (НИЦ) Олег Нарайкин.
Можно представить систему из 5 элементов, отметил он. Она вполне обозрима, и человек вполне в состоянии разобраться в любой ситуации, которая с этими пятью элементами может случиться, в любой комбинации.
А теперь возьмём любую техническую систему из большого количества элементов, например, из 5 триллионов. «Такая система уже необозрима, — указал учёный. — И это я не говорю об искусственном интеллекте — нет, простая техническая система, в которой такое количество элементов. С ней нельзя не только управиться, но даже предвидеть».
А уж если говорить о такой системе, как искусственный интеллект, то он в разы сложнее, и очень возможно, что он может выйти из-под контроля, и с ним ничего нельзя будет сделать, считает Олег Нарайкин. Но при этом не преминул добавить нотку оптимизма: «На всякое действие есть возможность выработать компенсирующие решения».
«Интеллект и разум всё-таки разные вещи, — попытался успокоить общественность Валерий Карпов, отвечая на вопрос „Царьграда“. — Интеллектуальные функции у компьютера гораздо лучше развиты, чем у человека. По крайней мере, рассудочная деятельность, эффективность её у формальных систем гораздо лучше, чем у биологического объекта».
Правда, чем разум отличается от интеллекта, учёный обоснованно пояснить так и не сумел, вдруг соскользнув на трюизм вроде того, что «здесь надо аккуратнее подходить к задачам, терминам, целям».
Словом, до конца вопрос управляемости систем с искусственным интеллектом прояснён не был.
Контроль ещё будет?
Институт им. Курчатова
Впрочем, это, разумеется, не вина учёных Курчатовского института, которые на самом деле в работе над искусственным интеллектом идут не только в когорте мировых лидеров, но нередко и опережая всех. То есть «Курчатник», как его называют любя, реально стал одним из тех центров отечественной науки, где не действуют печальные констатации о её развале и отставании от мирового уровня.
В вопросе контроля над искусственным интеллектом в некотором раздрае и недоумении находится вся мировая наука. В ней, впрочем, уже выделилось направление, которое занимается формулированием тех самых этических и моральных требований к искусственным системам, что должны будут однажды быть заложены во все комплексы с искусственным интеллектом. На уровне, условно говоря, не перенастраиваемого БИОСа.
Пока же в Курчатовском институте сумели создать некое сообщество роботов, умеющее решать задачи, непосильные для отдельной «особи». Для этого, как рассказал Валерий Карпов, нужно было перенести на технические устройства те социальные модели, что уже существуют в природе.
«Есть задача, которую сложно решить с помощью одного робота, — рассказал о сути работы исследователь. — Тогда можно пытаться эту задачу решить с помощью нескольких роботов. Ну, плохо роботы совместно решают задачи. Не получается. И тогда нам пришло в голову — а пускай роботы попробуют организовать социальное сообщество. Социум роботов. И уже несколько лет это направление развивается, есть подвижки».
Это так называемая групповая или коллективная робототехника, пояснил учёный. И результат есть. На основе природоподобных механизмов — подражания, доминирования, и многих других, роботы некоторые частные задачи в рамках социума уже решают, подчеркнул Карпов. И получается гораздо интереснее, чем если бы они решали их по отдельности.
Простите, а кто тогда мы, люди?
Действительно — не ведут ли эти работы к появлению некое нового разумного «человечества» — из роботов? Интеллектуальные возможности, как видим, наличествуют, социальные связи и поведение — конструируются. Даже эмоции, как утверждают учёные, нынешним роботам уже не чужды. Тоже научили!
Робот может обладать эмоциями, и эти системы у нас есть, рассказал Валерий Карпов. Эмоции — важный аспект в управлении техническим объектом. Они стабилизируют поведение, отвечают за память, акцентируют внимание. Более того, уже существует робот, психику которого можно двумя регуляторами буквально подкручивать, превращая его из меланхолика в холерика, из холерика в сангвиника и так далее. Чисто техническая надобность, как оказалось: искусственный интеллект должен обладать эмоциями, чтобы в разных ситуациях соответствующим образом реагировать на внешний мир.
И что тогда робота — пусть не сейчас, но в обозримом будущем — отличит от человека?
Ответ на этот вопрос «Царьграду» уже дали люди из другого научного сообщества. Это произошло на конференции по развитию цифровой экономики Союзного государства России и Белоруссии. На ней подводились итоги исследований контуров грядущей цифровой реальности, которые своим грантом профинансировал Российский фонд фундаментальных исследований (РФФИ). Там и было сказано примерно следующее.
Главное отличие человека от робота — в реальности. За человеком — реальность. За ним — время, за ним обстоятельства, которые формировали и его, и общество, за ним история. Он включён в реальность мира, он — её неотъемлемая часть.
А робот — создание. Он — вне реальности, пришелец в нашем мире. Отключи его от питания — и он вновь вне реальности, вне существования. Он — не творец мира, он — инструмент, с помощью которого мир творится. Отключил его — как молоток в ящик положил.
Звучит, в общем, успокаивающе. Но вот можно ли будет при необходимости положить в ящик робота, обладающего сверхчеловеческим разумом, регулируемыми эмоциями и собственной волей — вопрос.
На который, правда, человечество знает ответ. С тех пор, как Каин убил Авеля.
Но точно ли тогда мы отличим робота от человека?
Покровский Александр
Царьград
Читайте также: Океан выбросил на берег гигантское существо с метровой пастью (ФОТО)
Источник - Русская весна
