Какие условия необходимы для создания сверх разумных систем?

Question

[Михаил Зельдич]

Дорогие профессионалы, я не программист, но мне стало интересно при каких условиях, создание искусственных субъективных систем станет возможно.
Субъективные системы это такие системы, которые формируют собственное поведение на основании собственного субъективного опыта.
Помогите, пожалуйста, понять достаточно ли следующих условий для создания искусственных субъективных систем, которые не будут нуждаться в программировании для формирования собственного поведения:
1. Наличие возможности выбора набора операционных пространств, вознаграждающих функций и целей таким образом, что все возможные последовательности действий и целей будут принадлежать этому множеству?
2. Наличие возможности трансляции внешней мотивации в последовательность действий для достижения соответствующего состояния системы?
3. Наличие возможности формирования собственного субъективного опыта?

Какие еще условия, по вашему мнению, необходимы для создания таких систем?

Answer 1

[Александр Талалаев]

Ну сегодня у нас проблема в создании параллельных систем с огромным количеством связей между ними, те реальных нейронных систем в железе. То что эмулируется на обычных процессорах фигня, то что строится через сети тоже фигня, везде есть свои бутылочные горлышко, что стопорит весь процесс.
Сегодня ближе всего к тому что нужно этот TrueNorth, который тоже пока что и близко не стоит рядом с нашим мозгом, к тому же имеет хардкодед нейронную сеть.
Короче говоря, пока мы не решим проблем создания реального нейронного процессора с нормальной быстрой работой нейронной сети, нужным уровнем парелелизма и скорости работы самих нейронов, мечтать об этом рано.
Максимум мы можем сэмулировать что-то, но это будут лишь подделки.
PS есть еще второй момент, и это отдельная большая история, не стоит фокусироваться только на человеко подобном интеллекте. К примеру океан, или его части, могут совокупно считаться большим организмом с определенными процессами, кучу организмов, реакциями на внешниюю среду.
Или пример интереснее - сеть интернет, сможем ли мы заметить когда интернет станет совокупным мета интеллектом, а мы как его составные части можем не замечать это (можно назвать это новой разновидностью эффекта толпы, только тут толпа глобальная).

Comments

[Михаил Зельдич]

Спасибо за ответ, но я задал три конкретных вопроса и получил в ответ размытые соображения.
У меня инженерный опыт, который говорит, что для создания чего либо нужно, прежде всего, понимать как это будет работать и в каких условиях.

Пожалуйста попытайтесь еще раз.
спасибо,
Михаил

[Александр Скуснов]

Михаил Зельдич, Михаил, лучше вы попытайтесь сформулировать свои вопросы не так туманно. (точнее, не вопрос, а ваши три соображения). Поясните, почему именно их вы выбрали, а не что-то другое. Да и начать я предлагаю с термина "субъективность". По-моему, любое воплощение (даже копия) это субъективность, т.к. что в него заложено, так оно и будет функционировать.
Короче, ваш первый вопрос очень размыт ("какие условия" - ответы: "хорошие").

[Михаил Зельдич]

Александр, давайте по порядку:
Мое определение субъективной системы - "Субъективные системы это такие системы, которые формируют собственное поведение на основании собственного субъективного опыта."
Что здесь размыто? Есть система, которая способна накапливать собственный субъективный опыт. Для предложенной цели обсуждения, неважно как и неважно каким образом она накапливает такой опыт и формирует свое поведение на основании этого опыта. Формирует и все. Мы ведь пока не задались целью создать такую систему, мы обсуждаем каких условий достаточно для ее создания, и только.

1. Наличие возможности выбора набора операционных пространств, вознаграждающих функций и целей таким образом, что все возможные последовательности действий и целей будут принадлежать этому множеству?

Как создаются программные продукты?
Ставится задача, которую создаваемый продукт должен выполнять. Эта задача выполняется на основе получаемой извне информации, по заданным алгоритмам до тех пор, пока не будут удовлетворены условия задаваемые вознаграждающей функцией. В этот момент цели считаются достигнутыми.
Программный продукт действует в какой то операционной среде, для взаимодействия с которой он и создается. Поправьте меня, пожалуйста, если здесь есть неточности.

Я ставлю задачу по другому. Операционная среда является универсальной, тоесть одной и той же для любых, возможных для системы, действий. Так же универсальны и вознаграждающие функции, которые позволяют определить момент достижения произвольных целей.
Меня интересует достаточно ли этого для обоснованной попытки создания программных продуктов, управляющих квази - автономной системой, мотивируемой на достижение какой либо цели, задаваемой с помощью внешней мотивации.

2. Наличие возможности трансляции внешней мотивации в последовательность действий для достижения соответствующего состояния системы?

Предполагается, что создаваемая система умеет превращать внешнее мотивируещее воздействие в последовательность возможных для нее шагов, которые могут привести ее к достижению поставленной цели из текущего состояния системы и окружающей среды.

3. Наличие возможности формирования собственного субъективного опыта?
Предполагается, что создаваемая система умеет формировать свой субъективный опыт, обобщать его и строить свое поведение, другими словами следовать выбранной ею последовательности шагов, на основании собственного опыта.

Согласитесь, что до того как кто либо приступает к созданию чего либо необходимо знать какие условия нужно соблюдать при создании этого.
Вот я и пытаюсь понять какие условия нужно соблюсти при создании сверх - разумных квази - автономных искусственных систем.

С уважением,
Михаил

Answer 2

[GavriKos]

Какие условия необходимы для создания сверх разумных систем?

Наличие СВЕРХРАЗУМНЫХ разработчиков и СВЕРХРАЗУМНЫХ инвесторов. И время. Без него никуда.

Comments

[Михаил Зельдич]

Как говорил В. И., будем делать революцию с теми кто есть.

[Денис Загаевский]

Михаил Зельдич, что ты несёшь...

[Михаил Зельдич]

Что могу!

Answer 3

[vchc]

Вам нужно сначала разобраться с терминологией, чтобы корректно сформулировать вопрос.

Субъективные системы - системы, имеющие собственную оценочную функцию внешних воздействий и действующие на её основе. Таких систем много. Банковские рейтинги, управление автономными аппаратами, системы делопроизводства и так далее. В той или иной степени они могут выступать субъектом. Если в них заложена процедура параллельного обучения, то они накапливают свой субъективный опыт.

Разумные системы (подразумеваем, что эталоном является разум человека) - системы с функционалом, эквивалентным разуму человека, он же сильный ИИ. Основная проблема - сложность построения. Нужно объединить и согласовать множество подсистем реализующих части общего функционала как это происходило в процессе биологической эволюции. Проект создания таких систем потребует затрат бОльших чем космические программы времён холодной войны. Задайте себе вопрос кто и зачем будет оплачивать этот праздник жизни?

Сверх разумные системы - системы с функционалом, превышающим функционал разума человека. Любая разумная система на не биологической основе (например на основе современных кремниевых вычислителей) автоматически становится сверхразумной за счёт своих физических показателей (более долговечные и расширяемые).

Answer 4

[Михаил Зельдич]

Спасибо за попытку, но я дал формулировку того, какие системы можно назвать субъективными, для определенности.
Собственная оценочная функция вполне может быть частью прошлого опыта.
Кроме этого, заданы три конкретных вопроса и не получено ответа ни на один.

Answer 5

[Сергей]

У вас что-то все сумбурно. Нельзя более по русски сформулировать ?
Я вроде читаю вас, и не понимаю. Чего вам надо ?

По сабжу. Любая интеллектуальная система (и не только) должна иметь следующие компоненты:
1. Входные сигналы (сигналы из внешнего мира этого ИИ)
2. Выходные сигналы (сигналы воздействия на внешний мир этого ИИ)
3. Обратная связь - какой либо алгоритм изменения поведения системы для достижения минимального значения целевой функции.
4. Целевая функция -- обычно функция, которая берет состояние мира ИИ и оценивает его. Цель любого ИИ (как системы управления) минимизация целевой функции.

Упрощенно, любое обучение это интеративный процесс.

Математически:
in(t) -- вектор входа вашего ИИ, зависит от времени t
out(t) -- вектор выхода, зависит от времени t
f - целевая функция
L - функция обучения
Out - функция формирования обратного воздействия.
params(t) -- некоторые внутренние параметры системы ИИ (аля состояние), в зависимости от времени t.

Delta = f(in(t), params(t))
out(t+1) = Out(in(t), params(t))
params(t+1) = L(Delta, in(t), params(t))

цель любой системы что бы ошибка была сведена к минимуму.
Система ИИ не имеет смысла, если не заданы цели её существования.

Comments

[Михаил Зельдич]

Сергей, это все верно для программируемых систем, но не годится для систем автономных, способных самостоятельно научаться и находить какие действия необходимо предпринять для удовлетворения условиям мотивации.

Моей целью является создание именно почти полностью автономных систем. Почти касается условий мотивации, а не функциональных возможностей.
Язык у меня нормальный и точный, но беда в том, что смысл может быть разным. Поэтому, как и в любом новом деле, требуются усилия для достижения взаимопонимания.

Мне нужно понять достаточно ли правильного выбора операционных пространств, вознаграждающих функций и целей для начала разработки проекта квази - автономных систем.

Спасибо,
Михаил

[Сергей]

> Сергей, это все верно для программируемых систем, но не годится для систем автономных, способных самостоятельно научаться и находить какие действия необходимо предпринять для удовлетворения условиям мотивации.

Что-то вы все врёте. Все что я написал справедливо для любых систем, которые способны адаптироваться.

> Мне нужно понять достаточно ли правильного выбора операционных пространств, вознаграждающих функций и целей для начала разработки проекта квази - автономных систем.

Достаточно. Во только вы дальше философствования не продвинитесь, пока не примените математический аппарат.