Когда-то лет восемь назад, мы с братом развлекались обсуждением того, может ли программа владеть деньгами. Сама по себе тема того, что программе может что-то принадлежать, уже достойна пера лучших юристов. Так или иначе, я думаю можно найти лазейку в законах хотя-бы какой-то странны позволяющую сделать такой финт ушами (по крайней мере прецеденты с животные владеющими собственностью уже есть).
Следующая вещь, которая интересна в нашем случае – это то, когда программа начнет заниматься бизнесом (животные вряд-ли могли это делать). Есть некоторые аспекты бизнеса, которые и так давно пытаются автоматизировать (игры на Forex, торговля акциями) и с которыми программа вполне может справляться (по крайней мере, без получения прибыли) даже не обладая полноценным искусственным интеллектом.
А теперь подумаем, какие забавности несет эта возможность:
— как заключать договора с программой?
— должна ли программа платить налоги?
— может ли программа взять кредит?
— может ли программа нанимать людей?
Я думаю, легко можно придумать длиннейших список вопрос, на которые просто невозможно ответить (по крайней мере без улыбки).
Так, вот, поглядев сегодня Terminator 3, я подумал – да, до настоящего искусственного интеллекта, нам ну очень далеко (кстати, интересными разработка по ИИ занимается Jaff Hawkins, в компании Numenta).
Но, хотя нам и далеко до ИИ, программы уже вовсю могут заниматься разнообразными рутинными действия (управление поставками и заказами, управление транспортом, производством). И в этом смысле мы уже давно перешагнули черту, когда программа автономно сможет руководить простыми видами бизнеса.
Ну например, продажа газировки в автомате. Вполне, программа может контролировать то, когда газировка заканчивается – посылать письмо людям, чтобы они приехали вставили новый баллон, если автомат поломался – письмо людям, которые его починят. Автоматически переводить за услуги деньги и писать инкассатору, чтобы тот выбрал из автомата деньги и сдал в банк. Самое забавное, она даже может нанять программистов, чтобы себя обновить – например одного нанять писать код, двоих независимых контролировать, что спецификация выполнена (что-бы случайно не самоубиться таким образом).
Если вдуматься, то раньше бизнес велся по схеме – люди используют компьютер в том в чем они слабы (в расчетах). В нынешний бизнесе (например магазин Walmart) – скорее уже сложная компьютерная система управляющая закупками, доставками и распределением использует людей в том в чем она слаба (например в общение с таможенниками).
И все чего не хватает, для полного счастья, чтобы программа могла считаться юридическим лицом. И ведь в этом смысле она гораздо разумнее животных. Скажу больше – она может оказаться более разумной и успешной, чем множество людей. Сто процентный и постоянный контроль над всеми процессами внутри бизнеса, нечеловеческое спокойное отношение к тому, что бизнес может потребовать уйму времени – это то о чем не могут и мечтать все предприниматели.
В конце концов – признание программ юридическим лицом таки должны произойти. Программы станут достаточно автономными (я специально не хочу употреблять слово «умными»), чтобы их признали. И я даже не могу представить мир, каким он станет после этого….
А что вы думаете по этому поводу?
Вопрос признания программ юридическим лицом — это вопрос ответственности. Например, если программа при выдаче газировки недольёт мне газировки или нальёт газировки больше чем надо и запачкает любимые брюки — вопрос, кто будет за это отвечать, компания эксплуатирующая газировочный аппарат или программа? Кто будет компенсировать ущерб и тому подобное?
2Ivan Begtin: Безусловно вопрос ответственный. И не просто ответственный, а порождает множество других вопросов. В том-то и хитрость, что как только программа становится юридическим лицом — то на нее может (и по логике бизнеса должна быть) зарегистрирована фирма эксплуатирующая газировочный автомат. И тогда спрос с эксплуатирующей фирмы может быть равен спроса с программы.
До тех пор, пока сама программа принадлежит фирме (как при нынешней ситуации), она не является юридическим лицом и естественно в таком случае спрос с нее нулевой. Нельзя же с самой Windows стребовать деньги за ущерб, можно только с Microsoft.
Кстати, на самом деле хороший вопрос, в таком случае, может ли программа оформиться как частный предприниматель. Как частная фирма проще — так как спрос с фирмы (в которую могут быть наняты люди), например включая исполнительного директора. А вот с частным предпринимателем — сложнее, так как спрос тогда должен быть впрямую с программы.
Да, давно это было. Дал ссылку в ЖЖ.
2e-mir: Увы, за давностью лет, многие забавные идеи вокруг этой тему утерялись и только вспомнилась канва.
А насчет «ломания жанра». Меня просто забавляет слегка разбавить серьезность вот такими идеями, что-бы люди не засыпали 🙂
Спасибо за ссылку 🙂
Помню там были еще вопросы про военных роботов. Ну, самостреляющие зенитные установки и всяких Predators.
Эхехе, товарисчи, как чистая теория идея конечно забавная, но похоже вам бы надо спуститься на землю. Я думаю что очевидно, что программа не может быть умнее людей, которые ее написали. Глядя на то куда катится качество программных продуктов, и на качество знаний людей которые их пишут, мне честно говоря слабо верится, что программам можно будет скоро вообще доверить хоть что-нибудь серьезнее развлечений.
2e-mir: Хм… Я уже ничего не помню. А ведь тогда не меньше чем целый вечер обсуждали.
Хотя что-то вроде про самостреляющие установки таки вспоминается.
2zdv: Дим, тут я с тобой сильно не согласен. По большему счету сердцем Wal-Mart является программа — следящая, где что и в каких объемах продано, делающая логистику, заказывающая новые товары, следящая за сезонными изменениями и т.п. Я не говорю, что она ведет бизнес, но я бы сказал, что она важнее, всего их высшего менеджмента вместе взятого.
Программа не может быть «умнее» чем человек ее написал. Поэтому я пытался уйти от слова умный. Программы может быть гораздо точнее, спокойнее, аккуратнее человека который ей написал.
Да программа не сможет на данный момент руководить любым интеллектуальным бизнесом. Но мой пример с газировкой — вполне реален. Если бы например, на месте программы, находился менеджер который был делал тоже самое (заказывал новую газировку) — никто бы не удивился, но как только мы автоматизировали все его действия и подставили программу — то сразу возникают вопросы, как она будет работать.
Резонный вопрос, что делать, если попадается непредвиденная ситуация? Ведь программа не может выдумать, что делать… Я считаю, что в этом случае есть наемный (нанятый программой) человек, который разгребает все остальные непредвиденные ситуации (который дай бог будет 1%).
2Victor Ronin: Юридически, не юридически… Как программа будет нести ответственность в результате судебного иска?! Как ее посадить на 3-5-8. Ну это я как-то представлю. А пожизненно?! А 2 и более пожизненных, как любят на Западе?! Это вам не как договор заключать — это серьезно.
Не согласен с тем, что сердце Wallmart — это программа. Потому что она — лопата, хотя и большая и с самонаведением. Но решение насколько глубоко копать — не принимает. А уж как она исполнит задание «Копать от меня и до обеда»… Страшно представить 🙂
Если смотреть в будущее, то ответом на пост zdv фильм «Я робот».
D.Mikhantiev — простое отключение или уничтожение.
Собственно интересная мысль, и что-то мне подсказывает, что будущее ИТ в бизнесе — именно такое. Беспокоит только лишь будущее. Ведь не за горами ИИ, я уверен на мой век прийдеться. Но я совсем не хочу повторения сюжета Терминатора в своей жизни.
2Антон KROK Незнамов: Подход в корне упрощенческий. Что есть отключение? Это собственно уничтожение. А заключение? Оно оставляет где-то там впереди возможность вернуться, но уже в неизвестность. А неизвестность — страшит 🙂 Длительный полет в в изолированном мире в никуда, с неизвестной точкой назначения.
«Ну пробьешь ты головой стену — что ты будешь делать в соседней камере?» (С) непомнюкто, то ли Ежи Лец то ли еще кто-то…
К тому же придется долго биться с борцами за отмену смертной казни и права чел… тьфу, программы. И почти наверняка они победят. Причем еще и решение в их пользу будет в какой-нибудь особо извращенной форме (лень придумывать).
2D.Mikhantiev: Интересно, почему сразу идет обсуждение, о том как посадить на 5 лет? Неужели в бизнесе — это главное умение? Например, в ЧФ вообще очень тяжело сделать что-то настолько серьезное, чтобы добраться до уголовной ответственности, а с административной (в виде штрафа) может справиться и программа.
Насчет большой лопаты. Да, это действительно большая лопата. Дело заключается в том, что множество бизнесов стало копательного характера и нужна именно большая лопата.
Еще один пример — Netflix (компания. которая занимается арендой DVD фильмов). Ладно еще Walmart — там куча народу работает. А Netflix — по большему счету — опять же программа (сайт + программа по предсказанию, что больше понравиться заказчику) + центры по рассылки дисков. Никаких суперинтеллектуальных действий не принимается. Опять же большая лопата, вполне сможет справиться.
2Антон KROK Незнамов: Не знаю, насчет ИИ я достаточно пессимистичен. Если программы, управляющие бизнесом с газировкой — реально, то терминатор/я робот — малореалистично. Мне кажется, что до ИИ далеко, так как в этом направление работают уже 40 лет и по большему счету продвижений в этой области очень мало. Да компьютеры стали мощнее, но тут нужен качественный скачок, так как пока компьютер — это просто калькулятор сумасшедших размеров.
2D.Mikhantiev&Антон: Насчет отключений и заточений. До тех пор пока программа не обладает ИИ — не вижу, чем это поможет. У программы нету страха, чувства времени и т.п., чтобы понять, что с ней что-то сделали. Плюс, программа (в отличие от человека) может легко делать свои точные копии. Это тоже самое, что отправлять в заключение маньяка, который только что сделал свою точную копию остающуюся на свободе.
А как программа может не иметь хозяина/автора?
Все равно ее же кто-то создал (или создал программу, ее создавшую — но это не важно). Вот пускай ее создатель и отвечает за все юридические последствия.
Т.о. нужно только иметь техническую возможность определять создателя.
2Anonymous
Создатель программы != пользователь программы. Если Майкрософт создатель Аутлука, то за рассылку спама с его помощью будет именно пользователь. В любом случае правоприменимость к программам как к юр.лицу крайне спорна.
2Anonymous & Ivan Begtin: Я полностью согласен с Ivan Begtin. Создатель не равно Пользователь.
Очень хороший пример с спамом. По большему счету, программист отвечает только перед компанией в которой он работает (и то отвечает за качество, причем даже не административной ответственностью).
Так, что автор тут не причем.
И соответственно, именно идея этой статьи в том, что хозяина у программы нету. Хотя это тяжело представить, но это примерно как с людьми. Хотя нас родители и родили и до определенного возраста даже отвечают за наши действия, но в момент совершеннолетия, становимся самоответственными единицами.
Немного не в тему, но вообще определить создателя любой серьезной программы фактически невозможно. Обычно это коллективный труд большого кол-ва программистов, менеджеров, продавцов, маркетологов и т.п.
Мы тоже лет 5-7 назад развивали эту идею, я даже хотел фантастический рассказик сочинить. Там должны были во всех ПК вставить специальный драйв, похожий на CDROM, в который можно баксы совать и вынимать. Типа каждый домашний ПК превращается в настольный банкомат. (Попытка вскрытия приводит к серьезным последствиям, все подключено к интернету и отслеживается). Хотя основная масса платежей конечно в электронном виде, каждая копия программы имеет счет в банке.
И все домашние программы требуют оплаты своей работы, а сами в свою очередь должны платить владельцу за предоставляемую память, процессорное время, электроэнергию, жилплощадь, они конкурировали друг с другом и т.п. Программы могут покупать железо, апгрейдить свой компьютер (силами наемного сервисмена) а если владелец задолжал, в конце концов приезжает дядя и забирает у него компьютер.
Но если честно разбираться, оказывалось нечто вроде программерской фирмы из людей, только форма организации совершенно не похожа на существующие. Может, что-то подобное и возможно в реале.
Если без фантастики, то есть подозрение, что живая материя может решать вычислительные задачи, которые для обычного компьютера трудновычислимы. Это вроде подбора пароля — алгоритм банально простой, подставляй и пробуй, но с ростом длины пароля очень скоро не хватает ресурсов. Классический пример — задача разложение на простые множители больших чисел, на ее трудновычислимости основан алгоритм шифрования RSI (с открытыми и закрытыми ключами), везде используется для безопасного соединения через интернет.
Похоже, многие творческие задачи, типа написания человеком программы , требуют перебора огромного количества вариантов,
см. здесь — http://naimark.livejournal.com/1562.html
и поэтому не удается сделать «самопрограммирующийся компьютер».
А живой человек, похоже, эту задачу решает.
2mika: Еще сейчас придумывают квантовые вычисления, выходит что теоретически можно построить квантовую систему, которая сможет, в частности, разлагать на множители большие числа (П.Шор разработал квантовый алгоритм факторизации в 1995)
Выходит, что вычислительные возможности природы гораздо больше, чем используемые для реализации обычного компьютера. Может, где-то тут и зарыта собака.
2mike: Спасибо, интересные комментарии. Да действительно — эта тема граничит с фантастикой (пока).
Единственное я не понял, что такое «живая материя»?
Хотя опять же — управление бизнесом и подбор пароля чуть разные задачи. Первая сложна из-за того, что требует некоторой интеллектуальности, вторая же — просто задача время решения которой растет экспоненциально от длины пароля.
Скажем так, если сейчас создать компьютер с бесконечным быстродействием, то задачи подбора паролей и разложения решал прямо сегодня, а вот ИИ останется на том же месте где был сейчас.
Насчет вычислительные возможности природы…. Они просто устроены абсолютно на другом принципе. Основная сила всей той жизни которую мы знаем (от вирусов, до человека), то что мы действует на
а) молекулярном уровне
б) все действия происходят паралельно
в) Связей (у человека) в мозге тьма тьмущая и плюс они еще и постоянно изменяются.
Именно из-за б) и в) мы в многих (не вычислительных) задач эффективнее компьютера.
Кстати, именно б) и в) и пытаются эмулировать в фирме Numenta.
Bashorg сегодня:
Море: винда сегодня отожгла.. год работала а сегодня решила со мной занаво познакомиться.. выдала экран первой загрузки.. знакомство с xp и потребовала установить дрова на видюху…
я вот думаю решила освежить отношения или просто маразм уже?
Вы этого хотите?
Моя кстати в реале позавчера практически то же отмочила, рассказала, что у нее лицензия на ХРюшу закончилась. На ноутбуке!
2Victor Ronin: По-моему, вопрос не в разных принципах, а в эффективности при решении разных задач. То, что даже IBM XP быстрее меня (абстрактного меня, в виде индивидуума с природным вычислительно-аналитическим комплексом в голове) перелопатит массив данных типа «дата-продукт-выручка» и построит графики распределения, я не сомневаюсь. Осталось из этих графиков сделать вывод и принять решение. А вот тут мы можем с ней посоревноваться и, почти наверняка, я выйду победителем.
Т.е. с анализом и принятием решений у человека значительно лучше на настоящий момент. Причем человек способен принимать решения на подсознательном уровне в условиях очень больших объемов исходных данных для анализа, когда сознательная обработка уже не справляется. И это, IMHO, называется интуицией.
Для примера: от одного генерального директора крупной фирмы слышал признание: «Я много раз слышал от первых лиц компаний, что они часто принимают интуитивные решения и привыкли им доверять. Просто сознательно переработать такой объем информации за разумное время нереально».
Это к тому, что лопата может заменить лопатоуправителя 🙂 Да, можно задать некий набор стандартных ситуаций, на которые лопата будет реагировать сама и принимать простейшие решения. Но вот полностью быть самостоятельной она не сможет. Согласен — газировкой торговать, вовремя закупать и т.п. — нет проблем. Нечто подобное даже нынешние принтеры умеют: «У меня заканчивается картридж, готов послать заказ на новый». К газировке — решить, что автомат надо перенести на 100 метров дальше по улице, потому что там, например, большая остановка транспорта, программа пока не готова.
2Victor Ronin:
Что такое «живая материя» сейчас не понимает никто!
Можно только выдвигать голословные гипотезы типа того, что живая, в отличие от неживой, может решать трудновычислимые задачи, скажем, за счет реализации квантовых вычислений, или еще чего-то таинственного.
Занятие бизнесом (творческое) не отличается от программирования, — скажем, это составление стратегии. То, что обычно бизнесмен это делает интуитивно, а не сознательно, дела не меняет. При росте количества элементов в стратегии число возможных комбинаций растет экспоненциально, и нужно отбросить огромное большинство из них, которые совершенно бессмысленны. Сразу получается трудновычислимая задача, и на практике ее обычный компьютер не решает.
По-моему все творческие задачи сразу приводят к подобной ситуации с трудновычислимой задачей. Даже составление свежей неформальной фразы из слов языка требует перебора и отбрасывания огромного числа комбинаций. Человек это делает незаметно для себя, а вот компьютеру пришлось бы туго.
Если бы был компьютер с бесконечным быстродействием, то самым банальным способом перебора комбинаций можно было реализовать на нем «искусственного программиста» и получить «самопрограммирующийся» компьютер. А это уже гораздо ближе к искусственному интеллекту и бизнесмену-терминатору!
Где-то читал что в Австралии пробовали компьютер с архитектурой на базе нейросетей, и модули памяти там были организованы как запоминающие нейросети и назывались, кажется, NIMM ( Neuro какой-то Memory Module). Не знаю, что из этого получилось.
За счет распараллеливания можно получить лишь ограниченное ускорение, многие алгоритмы распараллелить вообще нельзя.
В мозге связей много, но зато частоты не 2 ГГц, а отсилы килогерцы, на 6 порядков меньше.
А насчет «молекулярного уровня» — смотря как это понимать. Может быть, это и означает, что там начинаютя квантовые вычисления?
Блин, как же все-таки удобна жжшные иерархические комменты. Не нужно писать — Вася, прочти это, а теперь, Петя — читая это.
Лично мое мнение — ИИ это очень красивое название для науки занимающейся автоматизацией. ИИ обещают уже давно, защищают кандидатские и докторские, получают премии и звания, а ИИ как не было так и нет 🙂 Когда будет создан ИИ я думаю человека уже не будет, так как фактически разум может создать только Бог. А вообще конечно интересно пофантазировать, чтоб пошевелить моск 😀
Любая программы которые работают в бизнесе — это прежде всего инструмент («лопата») автоматизации. Можно давать права данному инструменту на выполнение определенных действий от лица владельца. Так что человек всегда будет отвечать за то что он сделал лопатой, или выкопал яму или кого-то в нее закопал 🙂
2S.Bybyk: Забавно. Но сумасшедшая видна, все таки далека от бизнеса 😉
2D.Mikhantiev: Да, безусловно — автономная лопата, может заменить только лопатоуправителей. Я не в коем случае не хочу сказать, что лопата может заменить архитектора. Тем не менее, это мы в IT привыкли, что все базируется на умение делать выводы и нестандартно мыслить, но есть куча бизнесов, которые на 95% состоят из лопатоуправления.
Соответственно, такой бизнес можно поручить лопате, а те 5% с которыми она не может справиться отдать наемный рабочим — людям.
2mika: Хотя мы немного отклонились от темы.
Мне кажется, все таки нужно уйти от идеи, что все на земле работает по алгоритму полного перебора и отброса лишних вариантов. Скажем, когда человека спрашивают где он хочет жить, он не делает полного перебора всех точек обитания. Я не большой нейро знаток, но тем нее менее — полного перебора комбинаций насколько я знаю там нет.
И творческие задачи и трудновычислимые задачи — это задачи разного характера. Творческие задачи — это те задачи, которые как раз не решаются математически. А трудновычислимые — которые решаются математически но за долгое время.
Например задача, нарисуй красивый картину — не является трудновычислимой. Даже учитывая, что можно перебрать все последовательности пикселей/цветов, не существует алгоритма отбора, какие картины будут красивые, а какие нет. А художник — не перебирая все пикселей, вполне с ней справляется.
И именно в связи с этим примером — даже бесконечно быстрый компьютер — сможет нарисовать все картины, но не сможет выбрать, какая из них красивая.
2e-mir: Та да, меня тоже напрягает. Попытаюсь найти на выходных плагин, чтобы показывать иерархически. В крайнем случае, самому придется написать.
2GeF: Согласен с тем, что до ИИ очень далеко. Но, все-таки свести к все автоматизации тоже пожалуй крутовато. Задачи по крайней мере у них больше чем автоматизация. но правда решить они их пока слаба могут.
Программа действительно — это лопата. Вопрос состоит в том, что многие бизнесы — это бизнесы по выкапыванию ям. И с этим лопата вполне может справиться (фактически без человеческого вмешательства).
Вот у человека уже стоит — http://www.amironov.com/blogs/?q=node/99#comments
Спроси. Он вообще крепко наворотил, например сделал логин по опенайди, что есть очень верно.
2e-mir: Ага — буду узнавать. У меня кстати, в списке того, что надо сделать openID — тоже есть. Просто, обычно, не больше одной — двух вещей в недели делаю, а то и так блог прилично времени съедает.
2Victor Ronin: По-моему, бизнес не может состоять из лопатоуправления. Иначе этот бизнес загнется из-за костности и отсутствия реакции на рынок.
Опять про умные лопаты. Вчера у «Клуба ИТ-директоров» моего родного города было необычное заседание — мастер-класс по кофе. Проводил его профессиональный бариста одной из сетей кофеен города. В процессе помола (присутствующие узнали, что необходимый размер определяется трением получаемого порошка в руках) выяснилось, что в кофемолке, собственно, стоит два жернова, один над другим. Так как в зале сплошные IT-шники, тут же следует предположение, что уж сделать автомат, который будет под определенный вид приготовления делать помол нужного размера, это даже не проблема. На что следует ответ: «Конечно. Просто тут в чем разница при помоле надо учитывать разные факторы, которые определяются на глаз: степень обжарки, состояние зерен.., в том числе даже дождь на улице, так как влажность увеличивается и… «. Для примера был сделан эспрессо «неправильно» молотый и правильно. Никогда не считал себя гурманом, однако разница чувствуется сильно 🙂 А ведь что проще — поставить автомат, молоть и варить кофе?
В противовес скажу — в офисе стоит автомат, который варит кофе. Когда он сломался — это была трагедия половины офиса. 🙂
2Victor Ronin:
По поводу картин (только пейзажей) можно мое мнение считать почти профессиональным (могу нарисовать)
Там можно перечислить несколько простых правил, если все их выполнить одновременно, тогда само собой получится красиво (высококачественное изделие ремесленника; хорошие художники еще иногода вносят что-то дополнительно)
Правила такого плана: а)использовать до предела весь диапазон яркости, причем в некотором месте около середины полотна должен использоваться предельный контраст(черное-белое). б)использовать весь диапазон цветности, чтобы встречались детали чистых цветов в) все вышеуказанное не за счет изображения разноцветных предметов, а за счет контраста освещенности на одноцветных предметах г)использовать предельно сильную перспективу д)по поводу смешивания красок есть разные способы, я знаю только самый простой — работать тремя красками, красная-синяя-желтая, типа как цветопередача на телевизоре или фото, так получаются очень естественные цвета.
е) правила изменения освещенности и цвета ближнего плана по отношению к дальнему (синева вдали, зависящая от влажности воздуха и т.п. физические явления касающиеся прохождения света разных цветов через атмосферу) ж)избегание регулярностей (у человека имеется большая склонность изобразить регулярность там, где ее не должно быть, — очень неестественно выглядит)
И еще правила в том же стиле.
И требуется подобрать композицию, которая удовлетворяла бы им всем сразу.
Боюсь, опять трудновычислимая задача 😉
2mika: Я слегка поерничаю, прошу не принимать это на свой счет. Это просто первый аргумент, который мне пришел в голову:
«а)использовать до предела весь диапазон яркости, причем в некотором месте около середины полотна должен использоваться предельный контраст(черное-белое).»
Именно это, Микельанджело думал перед тем как разрисовать капеллу.
А если серьезно, правила — это хорошо, только вот нарисовать стоящую картину так программе не удастся.
Максимум, что — она сможет (фиговенько) отбирать готовые картины, которые потенциально понравятся человеку.
2D.Mikhantiev: Чего там биться? Применить к ним и всё…
Витя, глянь-ка незамыленным взглядом. http://e-mir.livejournal.com/1099511.html?mode=reply
2e-mir: Написано хорошо, хотя мягкова-то. Обычно основная идея в дискуссионных клубах, то что атака — лучшая защита. А вообще, немножко тренировки и выйдет второй Фриц Морган :))
2Victor Ronin:
Более того, Микеланджело еще небось измерял сколько там квадратных локтей и составлял смету, сколько уйдет белил и ультрамарину 😉 И размечал пропорции циркулем, правила и каноны у них еще не такие были.
Суть в том, что когда правил много, всем им сразу удовлетворить совсем не просто. Тупо следовать этим правилам не получится — следуешь одному, так нарушаешь другое, так что машина это сделать неспособна, полностью согласен!
Найти комбинацию, которая сразу всем удовлетворит, это и есть искусство. И конечно в каждой картние всегда есть еще масса замыслов в дополнение к этим правилам, что еще усложняет задачу в 2 в какой-нибудь дикой степени раз.
To Vronin. Ну тут настоящих оппонентов нет — нападать не на кого. А Фриц, конечно, не умеет вовремя остановится. Сначала пишет вроде как в шутку, а потом заводится всерьез.
2mika: Бросай(те) эти 2^раз :))) Ну нельзя «гармонию алгеброй проверить» 🙂
2e-mir: Ну, он все-таки начинает нападать уже с поста 😉
То Витя:
Ну, меня, положим, лавры Фрица не прельщают. 😎
В начале всего стоит желание человека что-то иметь.
Потом у того-же человека появляется идея как это что-то заполучить.
Потом путем поисков и ошибок организовывается какой-то бизнес.
Потом с течением времени организовывается его автоматизация (берем среднестатистический случай).
И вот в этот момент появляется программа. Которая может все что в нее заложено. И если у того-же человека будет желание заложить в программу полную самостоятельность в управлении контрактами и поставками (пример автора топика про Walmart), то так оно и будет.
Однако автор программы кто? Поэтому как-бы успешно она не работала — юридическим лицом быть она не может.
Рассматривая ИИ как идею реализации — тут уже допускается что программа может обучаться. И действительно непонятно как сходу отвечать на вопрос о ответственности за принятые решения.
Я бы склонился к тому что она все-таки не творец, а отсюдова ответственность за результаты ее работы должен нести так-сказать идейный вдохновитель.
И никакого юридического лица этим программам 🙂
2Yuri:
«Однако автор программы кто? Поэтому как-бы успешно она не работала — юридическим лицом быть она не может.»
ok. Получается, что мы утверждаем, что программа не может быть юридическим лицом только из-за того, что:
а) Есть автор
б) Он не захочет ее автономности.
Ну насчет а) — мы где-то обсуждали в комментариях. Не важно кто автор, важно кто владелец.
То-есть все сводится к б). Владелец программы не захочет ее автономности.
Вот контр пример для этой ситуации. А если человеку захотелось, чтобы она не только полностью самостоятельно управляла финансами, но еще и не принадлежала ему? Например человек мицценат — и он запускает программу и хочет, чтобы ее никто и никогда не имел права остановить (даже после его смерти) и чтобы она отчисляла процент в фонд голодающих детей.
Когда он умирает, то программа (его собственность) перейдет его наследнику. Максимум, что человек может сделать — если останавливается программа, то его наследники не получают денег (то-есть поставить условие не интересное им). Но он не может сейчас сделать ее юридическим лицом (чтобы кроме государства никто не имел к ней доступа).
Другой пример, просто чтобы показать идею, что программа может существовать без хозяина. Человек X пишет вирус Y и трагические погибает от черезмерной укурки, в этот момент вирус Y заражает кучу компов и наносит много миллионов вреда. Что мы имеем
а) Программу без автора и владельца
б) Кучу отрицательной прибыли принесенной этой программой
Соответственно, программа есть, а человека ответственно за нее — нет.
Ясно, что пример сумасбродный. И если есть программа которая может зарабатывать деньги, то человек захочет получить эти деньги. Но, всегда будут некоторое кол-во людей, которые будут пытаться вырваться за рамки (как например, отдать своему коту в владение — замок).
Идею ИИ я не рассматриваю, так как программы автоматизации бизнеса — реальность, а ИИ — пока не больше чем красивая задумка.
2Victor Ronin & 2Yuri:
Если автор программы умер, то это примерно тоже самое как если маньяк сегодня заложит бомбу в Охотном Ряду, завтра склеит ласты, а бомба САМА взорвется через 10 лет. кто будет виноват? бомба? 😉 виноват будет конечно же маньяк. но вот сделать ему наше законодательство уже ничего не сможет.
Случай с программой всего лишь чуть-чуть хитрее — мы не знаем что в ней — «бомба» (вредоносный алгоритм) или что-то полезное. И когда таких программ станет много будет видимо какая-то статистика — как часто в них оказываются «бомбы» (какие-то вредоносные алгоритмы). И уже в соответствии с этой статистикой, думаю, можно будет пересмотреть законодательство с целью вводить/невводить ограничения на функционирование таких «безхозяйных» программ.
Например, можно в случае смерти автора в принудительном порядке останавливать программу.
Или делать это через некоторое время. Или делать это по другим критериям — например, при отсутствии у автора определенного «рейтинга добросовестности» или если нет рейтинга то это будет стоить приличную N-ную сумму денег.
Безхозяйственные «бомбы» все равно будут иногда взрываться, просто нужно будет придумать систему уменьшения такого риска.
Очень интересные статьи и мысли здесь я нашол, спасибо всем за предоставленый материал !
Зря так про лавры Фрица !
2VLAD: Спасибо. А Фриц — большой молодец в смысле стиля письма и такой же большой софист/демагог. Плохого может в этом и ничего нету, но лавры его привлекают думаю не всех 🙂
2President: Ну вот рейтинг добросовестности, точно никогда не введут 🙂
Да и вирус врядли принудительно остановишь 🙂
На самом деле, я привет пример вируса и умершего автора, просто чтобы показать, что программа может быть безхозной. Я не ставил цели обсуждения/решения этой проблемы.
Просто, хочу показать, что программа без хозяина может быть самодостаточной и автономной.
2Victor Ronin:
> Просто, хочу показать, что программа без хозяина может быть самодостаточной и автономной
Согласен с вами. Программа без хозяина конечно МОЖЕТ быть самодостаточной и автономной. Только вот позволять ей это делать выглядит неразумно — т.е. возникает основной вопрос который я увидел выше: кто и как будет отвечать за вред, который может причинить программа.
Эту тему я рассмотрел в своем предыдущем ответе.
> Ну вот рейтинг добросовестности, точно никогда не введут
Ваши аргументы?
Если этого не было раньше это не значит что этого не будет потом.
А к тому же этот рейтинг есть и сейчас — это известность, деловая репутация. Просто это пока не формализовано.
Пример: я с большим спокойствием буду пользоваться услугами программу от корпорации Майкрософт, чем от абстрактного Васи Пупкина.
Что делать с опен-соурс? Наверное в этом случае (а может быть и вообще во всех случаях) право «автора» переходит к человеку который инициировал ее запуск (нажал на спусковой курок).
Т.о. лучше использовать понятие «инициатор» — физическое/юридическое лицо, которое отвечает за соблюдение программой законодательства и в случае его нарушения отвечает перед законом собственной шкурой.
> Да и вирус врядли принудительно остановишь
Всегда можно питание выключить.
А для особо исключительных случаев у нас есть спецназ. 😉
2President:
>кто и как будет отвечать за вред, который может причинить программа.
Именно по этому поводу — она должна быть юридическим лицом. Программа оформляется частной фирмой или корпорацией. И в случае того, если она нанесла вред государство имеет право ее оштрафовать.
Например, точно по тем же правилам работают большинство IT компаний. За вред нанесенный их действиями/программой отвечает не конкретный человек, а компания.
> Ну вот рейтинг добросовестности, точно никогда не введут
> Ваши аргументы?
На данный момент в мире существует пара миллионов программистов. Для того, чтобы хоть как-то их оценить — нужно лет 5 следить за каждым. Слишком большая работа, причем непонятно зачем.
Максимально, что может быть — это выдавание компаниям или людям каких-то сертификатов.
Но составить действительно рейтинг — это малореалистично.
Мир достаточно давно отошел от идеи персональной ответственности. Это слишком сложно, чтобы соблюдать в мире, где 6 миллиардов людей и все выпускается совместным трудом. Фактически за все серьезные вещи отвечают компании. Например за все продукты Microsoft — отвечает корпорация Microsoft, хотя в их разработке поучаствовали сотни тысяч человек.
>Всегда можно питание выключить.
Позвольте… Питание чего? Вирус, который размножился в миллионе экземпляров, требует выключение питания половины планеты. Да и спецназа не хватит 🙂
2Victor Ronin:
> За вред нанесенный их действиями/программой отвечает не конкретный человек, а компания.
Это если вред может быть компенсирован разумной суммой денег. А если вред очень серьезен, то отвечают уже люди: Ген.Дир/Глав.Бух/etc.
>> Ну вот рейтинг добросовестности, точно никогда не введут
>> Ваши аргументы?
> На данный момент в мире существует пара миллионов программистов …..
Лично я и не собираюсь пользоваться продуктами сделанными этой парой миллионов мне неизвестных программистов :).
Да они собственно и они не производят на свет каких-либо своих продуктов. Они в большинстве своем работают наемными работниками в компаниях.
А рейтинг компаний уже дело более осуществимое. Если Вася Пупкин работает в MS то я готов пользоваться этой программой но не из-за Васи а из-за MS.
И если прочитать мой пост внимательнее то я писал что этим рейтингованием можно будет заняться только когда можно будет оценить причиняемый вред! (и это только один из вариантов)
До тех пор я думаю нет смысла это обсуждать.
Ведь это как со светофорами на немноголюдных дорогах. Когда перекресток новый и еще не понятен характер и интенсивность движения можно обходиться без световора. Как только накапливается определенная статистика ДТП, сбитых пешеходов, тогда вешают светофор, а где-то и укладывают лежачего полицейского… 😉
нужна статистика.
> Мир достаточно давно отошел от идеи персональной ответственности
Согласен. И тем не менее в крайних случаях мы все-таки продолжаем прибегать к персональной ответственности. Если компания выпустит некачественную модель автомобиля и из-за этого произойдет много ДТП, то оштрафуют компанию плюс если жертв много посадят конструктора/директора/козлаотпущения. То же самое при строительстве дома. Дом строит компания, а посадят архитектора. А вспомните громкие скандалы с нелицензионным софтом — сажают конечных людей.
Сажали, сажают и будут сажать т.к. ничего более мотивирующего против преступлений еще не придумано.
А т.к. программу не посадишь — нужно иметь возможность всегда определить виновного человека. Автора/инициатора/архитектора/гендира/козлаотпущения
>>Всегда можно питание выключить.
>Позвольте… Питание чего? Вирус, который размножился в миллионе экземпляров, требует выключение
>питания половины планеты. Да и спецназа не хватит
я имел ввиду вирус в программе — программу можно отключить. как бороться с самими вирусами уже вроде придумали. этим занимаются специалисты
———— много букв, и уже пошел неконструктивный разговор. мое резюме —————
Программа всегда имеет «хозяина» — юридическое/физическое лицо. Хозяин отвечает перед законом за действия своей программы (если это просто штраф то может распралиться и из средств программы (или она это может сделать самостоятельно)).
На этом условии можно позволить регистрировать программу как юр.лицо (или можно даже придумать новый термин — «программное лицо» 🙂 )
И тогда можно позволить ей заниматься бизнесом, участвовать в любых других отношениях с людьми/огранизациями, или как-то еще работать.
(заключать договора, платить налоги, брать кредиты, итп…)
Если у программы нет хозяина ей нельзя позволять работать!
Кстати, ровно с этой проблемой сталкивались американцы лет 200 тому назад. Может ли негр вести бизнес? Кто ответсвенен за его действия? Очевидно что это должен делать хозяин негра. 😎
2President: Ладно. Действительно обсуждение пошло не конструктивное. Мы просто придерживаемся разных точек зрения по этой теме. И мы уже обсуждаем не факты, а мнения.
Мнение я понял, но согласиться с ним не согласился.
2e-mir: Спасибо за хороший пример 🙂
Опять нам рисуется радужное будущее с терминаторами и компанией скайнет)))
Для того чтобы программу признали существом имеющим права на равне с человеком, должно вначале должно сломаться представление о роботах внутри человека, так как для нынешнего поколения это всего лишь железяка, должно будет смениться как минимум одно поколение людей.
В общем-то согласен. Для того, чтобы дали юридические права — для этого желательно признание разумности.
Хотя фиг его знает. Законодательство в разных странах отличается. И вполне где-нибудь на остравах Пасхи, введут себе такой закон и все, готова программа с юридическими правами.
А насчет смены одного поколения — это всего лишь 25 лет.
[…] Я, как и большинство уважающих себя сумасшедших программистов люблю почесать язык на тему искусственного интеллекта. […]