б) Добр или не добр – это опять же другой вопрос. Но это люди же его делают(!). У людей есть цели и задачи ( например перечисленные в посте или там – мировое господство ), если то, что создано – не помогает решать эти цели и задачи, то делать и развивать не имеет никакого смысла. Вроде так.

в) Да. Согласен. Однако, именно поэтому мы и говорим, что на данный момент ИИ не создан ( ну или «сильный ИИ» в данном контексте ). А то, чтобы сила интеллекта была равна или выше человеческой – это как раз _критерий_ того на сколько созданная система является ИИ. Если не равна – значит не ИИ.

а) Несбыточные мечты и реальные цели в моем случае направлены на разные вещи.

б) ИИ может быть не слишком добр к человеку (смотри Терминатор и иже с ними). Это относительно пунктов «пойди и сделай задачу» и кооперация с другим интеллектом.

в) О уровне интеллекта равном создателям – для меня абсолютно не аксиома. Вон сейчас миллионы часов уже на это угроханы, а максимальные потуги ИИ равны тому, что человек легко делает в трех летнем возрасте (отличить изображение автомобиля от велосипеда).

«в) Насчет того, что на всей планете несколько десятков тысяч людей способных продуктивно думать. »
Замечу, не вобще «продуктивно думать», а продуктивно думать _над перечисленным проблемами_. Этим я и хотел сказать, что интересы их не разные, а одни и те же. И как по мне, то сильно сложно представить что кому-то «казались бы скучными и не продуктивными» например ощутимые _результаты_ в любой из перечисленных областей.

«- ИИ можно будет указать, чем заниматься (а-ля – “пойди и реши ту задачу”) и у него не будет собственной воли.»
При любых иных раскладах ИИ не нужен. Если невозможно задать, чем он будет заниматься, то какой смысл его создавать? Возможно, «задать» преобретёт немного иную форму, чем «пойди и реши ту задачу». Возможно это будет что-то ближе к тому что ИИ будет изначально «заточен» для решений только определённого круга задач при «общей эрудиции» сравнимой с человеческой. А вопрос воли – тоже нелёгкая философская тема. Даже люди далеко не все верят что есть такое понятие как «собственная воля».

«- ИИ будет легко копируем» – если он будет создаваем, то он будет копируем. Однозначно, по-моему. На сколько легко – это другой вопрос.

«-ИИ будет настолько же умным, как человек, который его написал.» По-моему, это как раз аксиома Ну может не как тот, кто написал ведь напишет наверняка не одиночка, а коллектив людей. У нас посылка, что искусственно создаёся интеллект по силе сравнимый с человеческим, а лучше бы – чтобы сильнее, чтобы помогал решать задачи которые людям не по зубам. И именно к этому и стремимся. Не так?

«- ИИ будет обладать типом разума похожим на человеческий» – ну, вопросы разума и его типов, это наверное снова к философам. Я думаю, что «тип разума» не должен играть особой роли. Интеллект – это нечто умеющее оценивать окружающее и правильно предсказывать далнейшее развитие событий ( ну пусть будет вот такое определение ). Человекам будет полезна только такая система, с которой они смогут общаться и понимать, что она вычисляет/предсказывает. Только такую они и будут делать. Каким бы типом разума она не пользовалась внутри ( сходным или отличным от человческого ) – она должна давать результаты полезные людям. Другое создавать просто нет никакого смысла ( ну или он есть, но я его не вижу ). Вопрос непреднамеренного создания ИИ оставим в стороне.

«- ИИ всегда будет хорошо кооперироваться и работать вместе с другим интеллектом.» Как минимум он будет кооперироваться и работать с человеком ( хотя бы на первых этапах ) А раз с человеком – то скорее всего и с другой своей копией. Да и не факт что нужна кооперация и копии для взрывного рста эффективности. Имея искусственное происхождение ИИ сможет самосовершенствоваться на много круче человека. Мы например не имеем информации о том как работает наш разум, а он точно будет иметь и более того, если это будет программа, то сможет с лёгкостью менять своё устройство.

И все-таки возвращаясь к теме. Если бы у меня было много триллионов баксов… то они ничего бы не стоили.

PS: ReplyTo сломалось и всегда post.

а) мысль “вложиться, если бы были деньги” играет роль отмазки

В первую очередь я заинтересован в зарабатывание денег, а во вторую очередь уже думаю о том как осчастливить человечество. Поэтому не совсем понятно отмазка от чего? Более точное – это назвать несбыточной мечтой.

б) Насчет почему так мало людей занимаются изучение интеллекта.

В целом за время истории философы суммарно уделили достаточно много времени. Да и сейчас философы + психологи и еще несколько специальностей работаю в этом направление. Просто тема такая, когда (пока) не слишком поддается.

в) Насчет того, что на всей планете несколько десятков тысяч людей способных продуктивно думать.

Это не так. Людей, способных продуктивно думать гораздо больше. Вопрос, в том, что у всех разные интересы и то, что одному кажется продуктивно, будет казаться скучным и не продуктивных кому-то другому.

г) Насчет ИИ, согласен спор схоластический. Но, замечу, что большинство людей делают выводы базируясь на следующих идеях

- ИИ можно будет указать, чем заниматься (а-ля – «пойди и реши ту задачу») и у него не будет собственной воли.
- ИИ будет легко копируем
- ИИ будет настолько же умных, как человек, который его написал.
- ИИ будет обладать типом разума похожим на человеческий
- ИИ всегда будет хорошо кооперироваться и работать вместе с другим интеллектом.

Мне ни один из этих пунктов не кажется аксиомой.

На счет искусственного интеллекта. Это не кажется, что мы плохо знаем естественный. Мы таки очень мало его знаем. Даже само понятие интеллекта не определено нормально. Я если честно сильно удивляюсь почему не уделяется повышенного внимания разбирательствам в том как именно работает интеллект, откуда берётся логика и почему она применима к описанию мира. Если тупо эмулировать физическое устройство мозга, то всё-равно яснее не будет по-моему. Но и других путей как-то не видно…

«Насчет того, что ИИ будет крут немеряно, вопрос достаточно спорный.» Да, можно и поспорить . Спор конечно гипотетический получится ибо проверить всё равно пока нет возможности. И это похоже на древний спор о том сколько ангелов поместится на кончике иглы . Но с другой стороны, встречалась мне где-то такая мысль – создаём программно ИИ по силе такой же как его создатель. Это значит, что этот ИИ может сам создать такого же как сам. Наштампуем/накопируем их сколько сможем. Они вместе наверняка создадут что-то ещё покруче, чем сами ( попутно порешают проблемы с ресурсами для дальнейшего роста ) это «что-то» придумает что-то ещё более высокоуровневое и т.д. А при росте «силы интеллекта» время между каждым последующим шагом может уменьшаться экспоненцильно.

Да тут если только просто увеличить лимит «оперативной памяти» до скажем 20 одновременных объектов/понятий вместо человеческих 7+-2 то уже получим значительну прибавку в «силе мысли». Как бы круто было писать программу и держать в уме не максимум 7-9 связей/обьектов/аспектов задачи, а пару тысяч. Что за программы тогда бы были?.. Я уже не говорю о том что ИИ не нужно есть, спать и т.п.

На земле сейчас 6 миллиардов людей. Из них, грубо говоря, первая треть – это дети, вторая треть – это старики. Из оставшихся – 99,9999% заняты выживанием и зароботком на пропитание и удовлетворение амбиций. Из получившегося остатка – 99,9999% не получили достаточной подготовки в детстве чтобы думать о перечисленных задачах серьёзно. Из тех кто получил достаточную подготовку – 99,9999% интересуются другими вещами. Хорошо, если прямо сейчас на всей планете наберётся несколько десятков тысяч людей способных продуктивно думать над перечисленным проблемами. Вот и имеем то, что имеем. А коллектив из десятка ИИ даже чисто равных, не превосходящих человека, но чётко сфокусированный на одной задаче мог бы вытворять просто чудеса. Думаю так.