Oбщий искусственный интеллект

Тут я хочу простыми словами рассказать о том, что такое узкий искусственный интеллект, общий ИИ и как его создать.
Внимание! Статья не дописана.

Что сейчас происходит в мире нейронных сетей?

Первая концепция искусственного нейрона была предложена в середине прошлого столетия. Люди заметили, что человек гораздо лучше, чем компьютер решает сложные задачи. Но мозг слишком огромен чтобы просто взять и воссоздать его, тем более на доступных в то время машинах. Поэтому взяли отдельный кусочек мозга, самый маленький кусочек - нейрон. И стали смотреть что он умеет. Оказалось что нейрон можно представить как простой линейный оператор, алгоритм, который грубо говоря умеет только складывать и умножать. Пока не интересно, простой калькулятор получается. Зачем он? Но люди вспомнили что в мозгу нейроны не встречаются по отдельности, они всегда связаны. Попробовали выстроить нейроны в два слоя. Вдруг оказалось что двухслойные нейронные сети могут сколь угодно точно описать любую уже нелинейную функцию. Интересно, но пока ещё почти бесполезно. Нужно слишком много нейронов, вручную указывать веса их связей (параметры) для задачи чуть более сложной чем очень простая - нереально, слишком много работы и людям непонятно как связи в итоге действуют сообща.
Вспомнили что мозг обучается автоматически. Нейронные сети тоже можно обучать автоматически, но приёмы обучения тогда были не очень. И компьютеры были очень не очень. В итоге парадоксальная ситуация. Способ сколько угодно точно описать любую нелинейную функцию (решить любую решаемую задачу) есть, а возможность воспользоваться ей - нет. Ну как нет. Стали худо-бедно использовать двухслойные нейронные сети, например для задачи распознавания изображений. Это делалось так: мудрые человеческие эксперты из плоти и крови извлекали признаки на изображениях, эти признаки подавались на вход в двухслойную нейронную сеть. И такой подход относительно не плохо работал. Не так круто как человеческий глаз, конечно, но лучше, чем строгие алгоритмы. Потом был взрыв прорыв и куча хайпа, скорее всего вы именно тогда впервые услышали про нейронные сети. Компьютеры стали мощнее, способы обучения, всякие регуляризации, аугментации, нормализации стали лучше. Люди посмотрели на то, как работает человеческий глаз и предложили схожую архитектуру - свёрточные нейронные сети. Попробовали убрать из задачи распознавания изображений людей - экспертов и заменить их глубокими нейронными сетями. Это уже не двухслойные нейронные сети, а многослойные.
В общем так, мало по малу, мы пришли к тому, что нейронные сети сегодня распознают изображения даже лучше людей (в среднем). Более того, судя по некоторым метрикам нейронные сети уже выполняют задачи на понимание текста лучше, чем люди. С лучшей точностью распознают речь и лучше играют в игры. Т.е. лучше решают любые "узкие" задачи. Но до общего искусственного интеллекта кажется ещё далеко.

Могут ли роботы чувствовать?

Да. По крайней мере в теории возможно создать роботов чувствующими. Всё что было создано природой, так или иначе, может быть повторено человеком. Более интересный вопрос: могут ли они чувствовать уже сегодня? Я думаю что да. Если создать нейронную сеть, которая будет играть в какую-либо игру, и проследить за поведением нейронки в момент, когда у неё закончились патроны в игре, станет видно что она отступает, машина как бы пытается продлить себе жизнь. Человеческие чувтсва тоже никак не могут ощущаться извне, мы можем чувстовать только свои стимулы, но если мы проследним за другими, то по их действиям становится понятся что у них есть похожие чувтсва. Да, они могут быть устроены по другому. Но система чувств, эмоций, рефлексов это то, и только то, что заставляет нас делать что-либо. Без этих стимулов разум будет неподвижным.

Нужны ли законы робототехники?

Да, но не те самые "три закона робототехники". Те самые законы робототехники больше подъодят для роботов-слуг. Просто для выполнения какой-то рутинной задачи. Мне бы хотелось чтобы были созданы полезные для всего человечества роботы. Для этих целей нужны более человекоподобные "законы".
Первый из тех законов: "робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред". Вроде звучит полезно, но не всегда. Человек тоже "запрограмирован" так, чтобы почти никогда не наносить другим людям вред, но есть много исключений. А что, если один конкретный человек представляет опасность всему человечеству? Тогда кажется что причинение ему вреда, как минимум его временная нейтрализация, это не очень высокая плата за существование всех людей. Должен ли робот быть способен принимать такие решения? Да, потому что скорости реакции и возможностей людей может просто не хватить.
Второй закон "робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону". Опять вопрос, мы хотим получить роботов-рабов, или роботов, делающих полезные вещи. Часто люди в каком-то смысле тоже "запрограмированы" на то, чтобы выполнять приказы, но у людей есть и свобода. Опять же будет правильнее если робот на основе своих "чувств" запрограммированных заранее, но всё же самостоятельно будет принимать решения. Основываясь в первую очередь на выживание и процвитания экосистемы "человек+робот".
Третий закон: "робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам". В точности так и обстоят дела у людей, так что какие-то такие черты, т.е. этот закон, может быть скопирован без изменений. Люди тоже могут поставить в жертву свою безопасность ради более высоких, на их взгляд, целей.
Какие тогда законы нужны? Примерно такие же, которые являются человеческими чувствами, но с модификациями. Какие-то базовые, древние, иррациональные вещи можно убрать, какие-то новые укрепить. В целом это сложная тема и тянет на отдельную статью. И не факт что люди сами понимают себя настолько хорошо.

Опасно ли искусственное сознание?

Чем выше потенциал любого инструмента, тем он и опаснее в теории. Давайте опять же посмотрим на людей. Опасны ли были учёные, создавшие ядерную бомбу? Скорее нет. Слова "опасный" и "учёный" с трудом умещаются в одном предложении. Скорее опасна та эгоистичная обезьяна с красной кнопкой, которая этими ядерными бомбами может воспользоваться. Тут так же. Правильная система мотивации должна сделать искуственное сознание безопасным для экосистемы в котором оно существует, но потенциал сознания бесконечен, как и его опасность.

Возможно ли создать сильный ИИ?

Да. При этом даже не до конца понимая принципы работы сознания и интеллекта. Люди создали летающие машины ещё до появления теории авиации, природа создавала летающих существ как минимум раза 3. Люди обладают интеллектом, и узкий интеллект уже был воссоздан человеком. Сильный (общий) инкусвенный интеллект тоже может быть создан, раз уж у природы однажды получилось.

Что значит сильный? Насколько сильный? Уровни сознания.

Как создать сильный ИИ? Пытаться.

Этот текст просто фантазии и популизм? Да, фантазии. Но что ещё вчера было фантазией, а сегодня уже реальность? Да, популизм. Но неужели популизм не выполняет своих полезных функций?

Почему человечество должно создавать сильный искусственный интеллект? Не должно. Первичный бульон не должен был превращаться в органические молекулы, просто так получилось, что где-то он превратился. Простые организмы не должны были размножаться, просто так получилось что какой-то из них размножился. Простые формы жизни не должны были становиться более сложными, просто так получилось что где-то они стали. Рыба не должна была выходить на сушу, просто так получилась, что какая-то рыба вышла. Та рыба которая не вышла замечательно живёт в своей среде обитания и занимает её почти целиком. Вы не должны стремиться стать лучше, просто может так получиться, что ваш сосед станет. Общества не должны создавать эффективные системы, но может так получиться, что общество за границей создаст. Цивилизация не должна создавать сильный искусственный интеллект, ничего страшного, возможно у другой цивилизации получится вынести разум за границы своей солнечной системы. Вопрос не в том что мы должны или не должны, не в том что мы хотим, или не хотим. Вопрос в том, хватит ли нам накопленной инерции стремления сделать это. А если нет, вдруг кому-то другому хватит?