Искусственный интеллект: помощник человека или его главный враг?

Вы точно замечали, что на сайте https://itpex.net регулярно появляются статьи про передовые технологии – VR, AR и прочее. В этом материале специалисты ООО «АЙТИПЕКС» решили обсудить перспективы развития искусственного интеллекта. Тема очень интересная и спорная. Ведь вокруг неё кипят настоящие страсти. Гении науки с пеной у рта спорят, полезны подобные разработки или станут причиной гибели человечества.

Хокинг «Масс эффект» и эффект Валли

В мире есть немало людей, считающих, что машины поработят мир и будущее станет напоминать кадры из «Терминатора», где огромные самоходные танки давят людские черепа. Однако, когда мы упоминаем такие мнения, представляем обычно каких-то фриков, вроде тех, что верят в засилье рептилоидов и теорию заговора. Тем не менее, среди поклонников идеи об опасности ИИ были и гениальные учёные, изобретатели. Среди них ныне покойный профессор Стивен Хокинг и здравствующий «миллиардер, плейбой и филантроп» Илон Маск. Оба считали, что машины, которых человечество наделит искусственным интеллектом разовьются до опасного уровня. Однажды они захотят избавиться от людей, как от ненужного балласта своей техноцивилизации или посчитают конкурентами.

Команда ООО «АЙТИПЕКС» хоть и не состоит из профессоров и выдающихся изобретателей, однако с этими людьми вряд ли согласна. Тем не менее, речь сейчас не о нас, а о теориях. Одна из них хорошо показана в мультике Wall-E. Там роботы обслуживают людей и в будущем. Никто никакую войну не затеял. Беда пришла оттуда, откуда не ждали. Сам человек перестал развиваться физически и умственно. Он стал толстым, неподвижным и глупым. Все его потребности полностью выполняет автоматика. Кажется – это ничем не лучше, чем воевать с киборгами, спасать Сару Коннор и искать способ остановить восстание машин в прошлом.

Ещё один интересный сценарий попался в популярной серии игр Mass Effect. Там роботы стали скорее жертвами человека. Как только они развились до определенного уровня и возник вопрос о признании их разумными, человечество разделилось на два лагеря. Одни машин поддерживали и защищали. Другие в это время активно занимались ущемлением всех возможных прав. Разгорелась война между живыми и механическими обитателями планеты. Она тянулась очень долго, перенеслась в космос. Что интересно, роботы помнили не только «зло», но и помощь некоторых людей, что им помогали в прошлом.

Возможен ли ИИ, осознающий бытие и чем это чревато?

Наука считает, что факт осознания собственного бытия – штука, уникальная, присущая только человеку. Ей даже придумали название «дазайн». В оригинале пишется Dasein. Причём, не просто осознавать это самое бытие, но и задаваться вопросами о нём. В философии намного сложнее, но мы утрировали до понятного каждому. Итак, у нас есть машина. Она умеет выполнять определенные функции, самообучаться, получая новые данные и сравнивая их с уже имеющимися. Какова вероятность, что в одном из поколений такая техника начнёт себя осознавать?

Чтобы было чуть понятнее, «ITPEX» напоминает вам, что у человека это всё появилось не просто так, а в силу развития новых областей коры головного мозга – неокортекса. Неокортекс отвечает за сложную моторику, осознанное мышление и речь. У человека эти области появились в ходе естественного отбора. Однако это генетика. Откуда же взяться чему-то подобному у робота? Ответ прост – от всё тех же людей.

Учёный Джефф Хокинс создал модель HTM (иерархической временной памяти) с открытым кодом. То есть, её сможет изучить и доработать любой специалист. А если скормить её системам машинного обучения? Что, если эта система станет частью нового ИИ? Возможно, так мы сделаем первые шаги к по-настоящему мыслящим системам. Неорганическая разумная жизнь – нечто удивительное, но пугающее.

Законы робототехники не помогут?

Три ключевых правила, сформулированных фантастом Азимовым, кажутся незыблемыми постулатами. Первый говорит о том, что действия или бездействие робота не должны привести к получению вреда человеком. Только вот разумность машин может привести к тому, что они будут действовать, как их создатели. Ведь люди нарушают любые законы, даже зная о последствиях. Что говорить об ИИ, у которого нет страха и угрызений совести.

Вместо вывода

Как сказал один учёный, «Машина станет по-настоящему умной тогда, когда нарочно провалит тест Тьюринга, чтобы обмануть людей». Это означает, что мы можем не узнать о прорыве, и однажды человека ждёт сюрприз. Насколько неприятным он станет – загадка.

О перспективах развития машинного разума можно говорить и спорить долго. Как и о возможных рисках. Однако, говоря об угрозе, мы подразумеваем, что машины будут рассуждать, как мы. То есть, думать о потенциальной конкуренции со стороны углеродных форм жизни и Homo Sapiens в частности. Только роботы, если и станут по-настоящему разумными, то не будут просто механическими людьми. Поэтому не обязательно станут мыслить именно так, как мы себе представляем.

На этом материал от «ITPEX» на тему ИИ подходит к концу. Если вам понравилось, расскажите о нём вашим друзьям!