[Old]

Xan

Речь идёт про некоторую точку в развитии искусственного интеллекта, когда он сможет развивать дальше себя сам, уже без помощи человека.

Штамповать сможет.
А развивать не сможет.
Современный компьютер по своему "железу" не отличается принципиально от первых ПК (БК 0010).
Отличаются принципиально программы, которые написали для ПК люди.
А это и есть контроль над процессом.
Первым языком программирования был Ассемблер. Человек задавал каждое движение:
-- Переместить число из регистра А в регистр С.
-- Сложить число в регистре С с числом в регистре В, результат сохранить в регистре С.
И т.д.
Это трудоёмкий и примитивный уровень программирования (который, тем не менее, имеет свои достоинства).
Затем появились языки-надстройки, которые принимают от человека программные алгоритмы и переводят их в команды Ассемблера.
Затем появилась операционная система, которая переводит действия обывателя (клавишами и мышкой) в программные алгоритмы. Таких систем было разработано несколько десятков, от микроскопической Colybri до LINUX, но Windows выиграла коммерческую конкуренцию.
Сейчас уже команды можно отдавать голосом. Появились переводчики с человечьего языка на язык операционной системы.
Но.
Никаким "искусственным интеллектом" здесь и не пахнет.
Упрощение задач для человека не означает самоуправляемость роботов.
Речь может идти о некоторой автономной работе робота, но эта работа и рамки автономности задаются человеком.
Машина не может выйти за установленные рамки: не только потому, что нет такой команды, а ещё потому, что физически не может: человек должен придумать для машины соотествующую приспособу к внешнему миру, чтобы новые функции стали доступны.

Xan

Речь идёт про некоторую точку в развитии искусственного интеллекта, когда он сможет развивать дальше себя сам, уже без помощи человека.

Я не вижу ни одного признака этого. Удел фантастов.

[Xan]

http://iknigi.net/avtor-nik-bostrom/...k-bostrom.html
Кусочек книги с предыдущей страницы.

Почти в самом конце про "зародыша" ИИ.

[Old]

Xan

Почти в самом конце про "зародыша" ИИ.

Я уже как-то пробовал объяснить, в чём я вижу проблему, но у меня не получилось.
Попробую ещё раз.

Тут что пробуют создать? Логическую модель взаимодействия нейронов. Эта модель, конечно, будет реализована в обычных ЭВМ, но по тем, природным, алгоритмам.

Однако, как я уже говорил, проблема состоит не в копировании структуры природного интеллекта, а в его мотивации. Как заставить искусственный интеллект работать, то есть, решать задачи? Почему то, что мы считаем задачей, должно стать задачей для искусственного интеллекта?

Чем занят мозг живого существа?
Почти полностью он занят оценкой сигналов от нервных датчиков всего организма.
Далее, состояние организма обобщается в баланс впечатлений, затем в желания, и наконец, в мысли-идеи, которые уже понятны формальной логике ЭВМ.
А у искусственного интеллекта -- нету чувствующего организма.
Поэтому 95 % всей работы живого интеллекта, вся база животного мышления, -- не может быть реализована в этой теории искусственного интеллекта, которая сейчас разрабатывается.

[Svrgh]

Xan

Речь идёт про некоторую точку в развитии искусственного интеллекта, когда он сможет развивать дальше себя сам, уже без помощи человека.

Old

Я не вижу ни одного признака этого. Удел фантастов.Упрощение задач для человека не означает самоуправляемость роботов.

Да, если порассуждать логически (по-обывательски конечно) - то у робота не может возникнуть ни малейшей мотивации саморазвития, (вне программы написанной для него человеком)

Робот конечно может самообучаться и моделировать на основе набранной им статистки в процессе например горных работ, в неблагоприятных или опасных условиях. Но собственно мотивации для того, чтобы самостоятельно покинуть производственную площадку и покурить, или вообще, поехать на Юга загорать - у робота нет.

Понравиться другому роботу или человеку? А какая мотивация в этом для бездушной машины? Ноль.
Нынешние японские роботы собаки, кошки или даже секс куклы - лишь имитируют эмоции и привязанность к хозяевам. Свойство человека, наделять душой кошек, комнатные цветы, статуи, автомобили и мироточащие иконы с амулетами - конечно грандиозная вещь....

На этом самообмане и построены роботы питомцы для одиноких японских бабушек.

[Xan]

Old

Как заставить искусственный интеллект работать, то есть, решать задачи? Почему то, что мы считаем задачей, должно стать задачей для искусственного интеллекта?

Как я понимаю, ты говоришь об этом:
человек нажал кнопку -- робот зажёг лампочку;
человек не нажал кнопку -- робот не зажёг лампочку.

Ну вот есть человеческая задача -- оптимизировать работу завода, производящего микросхемы.
Там есть множество мелких задач по усовершенствованию отдельных станков.
Сидят люди, планируют изменения, симулируют результаты на компах, потом проверяют в натуре, делают изменения и т.д.
Если надо станку новые детали, или вообще новый станок, другие люди делают проект на компах, файлы с компов уезжают в цех, там обрабатывающие центры по этим файлам куют детали. Детали собирают в новый станок.
Процесс частично автоматизирован.
И со временем процент автоматизации будет расти.
В какой-то момент останется только человек, который думает, как улучшить станок. А все его задумки будут сначала симулироваться, а потом воплощаться в железо автоматически.
Потом думы по улучшению конкретного станка возьмёт на себя комп.
А потом и главного инженера уволят.
Будет завод, который не только автоматически производит микросхемы, но и постоянно самосовершенствуется.
В общем-то, это будет именно "человек нажал кнопку -- робот зажёг лампочку".
Ничего особенного.

В рамках совершенствования производства вполне возможно, что система будет менять некоторые алгоритмы.
Кто их будет производить?
Думаю, будет аналогичный "завод" по производству алгоритмов.
Опять же, сейчас это смесь из людей и компов.
И тоже на компы перекладывается всё больше работы.
Но ведь тоже может обезлюдеть.
И тоже "кнопка -- лампочка". Никаких чудес.

ушёл...

[Old]

Xan

В общем-то, это будет именно "человек нажал кнопку -- робот зажёг лампочку".
Ничего особенного.

Тогда в чём состоит принципиальное отличие от существующих ныне ЭВМ?
Заявлено же: "изобретаем искусственный интеллект".
То есть, сейчас такой интеллект не существует, принципиально, он есть только у живых организмов. Если принцип автоматизации процессов останется прежним, тогда -- что они там изобретают?

Для приведённого примера, оптимизации процесса производства, уже почти всё готово, надо только написать нужный софт. Зачем для этого имитировать нейронную архитектуру мозга? Такая имитация сожрёт на несколько порядков больше вычислительной мощности ЭВМ, а толку от неё -- в упомянутом процессе оптимизации производства -- не будет никакого.

[Xan]

Убегал по делам!

Old

Заявлено же: "изобретаем искусственный интеллект".

1. Никто не знает, что такое интеллект;
2. Никто не знает, что такое искусственный интеллект.
Так что всё в порядке!

Но прогресс идёт именно к тому, что всё больше работы будет делать комп.
И новые программы будет помогать делать комп.
А доля человеческого участия будет уменьшаться.
И в какой-то момент человек уже будет не нужен.
Чел будет только предлагать компу, например, провести научное исследование с целью сделать двигатель искривления пространства, чтоб вечером можно было сгонять на часок в соседнюю галактику на пикник.
Ну и, возможно, лампочка загорится.
А где там внутри компа будет ИИ и будет ли он вообще -- никого волновать не будет.

Дело не в терминах, а в том, что нажав на кнопку, получишь результат.

ЗЫ

Old

Зачем для этого имитировать нейронную архитектуру мозга?

Гуголь с помощью нейронов и самообучения недавно победил лучшего в мире игрока в го. 4:1
Игра считалась гораздо более тяжёлой, чем шахматы.
Самообучение -- значит люди в этом не участвовали -- не придумывали специфические хитрости. Прога сама с собой играла и набиралась опыта.

[Old]

Xan

Но прогресс идёт именно к тому, что всё больше работы будет делать комп.
И новые программы будет помогать делать комп.

С этим никто и не спорит.

Xan

Гуголь с помощью нейронов и самообучения недавно победил лучшего в мире игрока в го. 4:1
Игра считалась гораздо более тяжёлой, чем шахматы.

Нейронный Гугль для этого не нужен. Любой настольный комп гарантированно победит человека в логической игре, используя обычную триггерную логику. Быстрый комп победит быстрее, медленный -- просто будет думать дольше, просчитывая все возможные комбинации и их возможные последствия. Но победит -- любой комп. Превосходство человеческого интеллекта не в этом.

Xan

И в какой-то момент человек уже будет не нужен.
Чел будет только предлагать компу, например, провести научное исследование с целью сделать двигатель искривления пространства, чтоб вечером можно было сгонять на часок в соседнюю галактику на пикник.

Вот с этим я не согласен.
Я уже намекнул, что создание нейронного интеллекта бессмысленно без создания сенсорного организма для него. И проект нужно было начинать с создания такого организма.
Человек познаёт мир и его свойства через своё тело. Развитие техники -- это развитие функционала человеческого организма при помощи инструментов.
Человек изобретает электромагнитный кран вместо обычного манипулятора с крючком -- потому что человеческое тело знает, что такое притяжение.
А робот не познаёт мир через своё тело. И поэтому новых технических решений он не найдёт.
Да, -- повторюсь, -- робот может автономно штамповать любую продукцию и оптимизировать процесс, используя вложенные в него человеком методы и представления. Но для изобретений нужно использовать новые представления о мире, которые робот никогда не получит сам, если у него нет сложного сенсорного организма.

Xan

1. Никто не знает, что такое интеллект;
2. Никто не знает, что такое искусственный интеллект.
Так что всё в порядке!

"Кучи в ночи" (с).

[Xan]

Old

Я уже намекнул, что создание нейронного интеллекта бессмысленно без создания сенсорного организма для него. И проект нужно было начинать с создания такого организма.

Ну привет!
Организмом будет весь инет, все документы/знания, датчики, станки.
К чему сейчас человек имеет доступ, к тому и роботы.
В узкой задаче оптимизации техпроцесса робот может искать и читать научные статьи на интересующую тему и ставить необходимые эксперименты.
Вовсе ни к чему делать какое-то специальное тело, всё уже готово.

Old

Нейронный Гугль для этого не нужен. Любой настольный комп гарантированно победит человека в логической игре, используя обычную триггерную логику. Быстрый комп победит быстрее, медленный -- просто будет думать дольше, просчитывая все возможные комбинации и их возможные последствия.

Это ты просто не в курсе.
Простой перебор быстро упирается в ограничение, никаких мощностей во вселенной не хватит для решения сколько-нибудь сложной задачи (я сам немножко этим занимался).
Гуголь применил нейроны чтоб не упираться в эту проблему.

[Old]

Хорошо, допустим.
1. Что если нейронная сеть нужна для одновременной обработки огромного количества информации, то--
2. Что если снабдить ИИ доступом ко всем открытиям человечества, возможностью экспериментировать на физических моделях и оценивать результат, то --
-- То ИИ начнёт обучаться и со временем, научится прекрасно выполнять поставленную перед ним задачу: например, производить микросхемы.

Остаётся вопрос: а насколько быстро оно научится, и какова будет надёжность этого процесса обучения/производства/обучения?
Живые организмы учились этому сотни миллионов лет. Вот пример.

1. ИИ принимает решение усовершенствовать конструкцию станка, для чего нужен новый электронный блок управления. Это окупится через 4 года и начнёт приносить прибыль.
2. ИИ рассчитывает все параметры этого блока и после анализа цен на рынках -- заказывает этот блок на японском заводе. Частичная предоплата произведена.
3. Тем временем, Китай выражает недовольство пошлинами США на свои товары и прекращает, в очередной раз, продажу редкоземельных элементов.
4. Без этих материалов японский завод не может производить свою продукцию, он останавливается и банкротится.

Итог: работа нашего завода, которым управляет ИИ, парализована.
Какие выводы из этого сделает наш робот? Объявит войну Китаю? Или что он там себе придумает, в порядке самообучения?

Это пример того, насколько полной должна быть информация о мире и насколько глубоким -- её анализ, -- для каждой простой операции.

[Xan]

Old

Итог: работа нашего завода, которым управляет ИИ, парализована.

А при человеках иначе?

Old

Какие выводы из этого сделает наш робот?

А человеки?
Учитывая, что сейчас есть множество экспертов, каждый из которых "широко известный в узких кругах специалист".
То есть, нет людей, которые владеют всей информацией.
Получается какая-то мозаика, каждый кусочек пользуется выводами соседей, предварительно исказив их в своём сознании.
Но как-то это всё функционирует с положительным результатом. В среднем, конечно!
А робот может учесть если не всё, то, по крайней мере, гораздо согласованней, чем толпа разрозненных экспертов.

Old

для чего нужен новый электронный блок управления. Это окупится через 4 года

Ну ты и пессимист!
Обратимся к классикам, Марксу и Энгельсу.
Стоимость продукции определяется только стоимостью человеческого труда.
Труд по сборке, труд по производству, труд по добыче полезных ископаемых, труд по геологоразведке, труд по планированию.
Во всех расходниках тоже человеческий труд.
Если исключить человека, то продукт будет стоит 0.
Ну, сейчас придумали всякие налоги на недропользование и загрязнения, при Марксе такого безобразия не было.
Но тем не менее,
стоимость продукции и стоимость модернизации/развития будет падать и падать.

ЗЫ
Подкину оптимизма на вентилятор!
Человек с его натуральным интеллектом -- тупиковая ветвь эволюции.

[Svrgh]

Xan

Подкину оптимизма на вентилятор! Человек с его натуральным интеллектом -- тупиковая ветвь эволюции.

это так кажется.
человек себя еще покажет.
и вообще он наоборот драйвер эволюции на сегодня.

[Old]

Xan

А робот может учесть если не всё, то, по крайней мере, гораздо согласованней, чем толпа разрозненных экспертов.

Человек скажет: "Да провались он пропадом, этот завод, не воевать же из-за этого с Китаем!"
Для робота развитие доверенного производства -- приоритетная задача. Для решения которой он может применить любые методы.

Xan

Человек с его натуральным интеллектом -- тупиковая ветвь эволюции.

Ну, это понятно!
Правда, была ещё одна версия: что это переходная форма жизни.

[Svrgh]

Old

Правда, была ещё одна версия: что это переходная форма жизни.

роботы не смогут конкурировать с жизнью в перспективе миллионолетий

[Xan]

Svrgh

и вообще он наоборот драйвер эволюции на сегодня.

Конечно!
Но осталось недолго!!!

Old

Человек скажет: "Да провались он пропадом, этот завод, не воевать же из-за этого с Китаем!" Для робота развитие доверенного производства -- приоритетная задача. Для решения которой он может применить любые методы.

Робот может вылезти выше, на уровень политики, и там разрулить.

Людей конкуренция безальтернативно толкает на то, чтоб сделать робота как можно более сильного.
Никто (кроме неудачников) не будет мучиться вопросами "А вдруг он всех поработит?".
Будут ковать оружие из-всех сил.

[Old]

Xan

Робот может вылезти выше, на уровень политики, и там разрулить

А какой искусственный интеллект сильнее: американский, русский или китайский?

[Aliena]

Old

Остаётся вопрос: а насколько быстро оно научится, и какова будет надёжность этого процесса обучения/производства/обучения? Живые организмы учились этому сотни миллионов лет. Вот пример. 1. ИИ принимает решение усовершенствовать конструкцию станка, для чего нужен новый электронный блок управления. Это окупится через 4 года и начнёт приносить прибыль.

Old, если исходить из экономической целесообразности: окупаемость, прибыль, рост ВВП и прочее..,
то есть опасность того, что Искусственный Интелект придёт к решению ... "обнулить человека" - избавиться
от наиболее затратного элемента системы.

Xan правильно сказал, что мерой является "человеческий труд".
Но его - труд, ни в рублях, ни в долларах не выразишь.

[Old]

На мой взгляд, более вероятен такой результат, как критическое накопление ошибок.
Естественный отбор очень долго шлифовал живую природу. А тут, в схеме Xan'а, всё начнётся заново. Примерно так:

"Будет ласковый дождь".
https://www.youtube.com/watch?v=WfI69DC_jaw

[Xan]

Любители бреда!
Налетай, подешевело!!!


ЗЫ
Это тему (Новости науки!) я создавал, вообще-то, для коллекционирования всяческого бреда. См. первый пост про Тёмную Материю.

Но некоторые люди стали постить сюда и нормальные новости тоже.

Так что получилась смесь.

[Old]

Я, всё-таки, ещё раз отвлекусь от шуток, чтобы закончить свою мысль об ИИ.

Xan предлагает сразу снабдить ИИ реальным телом, влияющим на мир людей, -- станками, заводами, научно-исследовательскими лабораториями, экономической и политической властью.

Мне лично это кажется утопией, потому что так ИИ начнёт учиться на людях, как мы учились на подопытных кроликах, а поскольку ИИ только начинает обучение, то, по системе Xan'а, он угробит мир.

Моё предложение состояло в том, чтобы создать многосенсорный организм, а имитатор нейронной системы мозга -- программно заставить управлять этим сенсорным организмом, преследуя главную цель САМОСОХРАНЕНИЕ, с некоторыми ограничениями. И дать ему возможность самому себя дополнять, рационализировать и развивать. Вот пусть оно само над собой эксперименты ставит, учится и взрослеет миллион лет, а после -- посмотрим, как с ним разговаривать...

Впрочем, нужна ли для этих целей нейронная архитектура? Это совсем не очевидно.
Нужны инструменты саморазвития и обратная связь: самооценка в заданной системе ценностей.