Re: [room] Что нужно для того, чтобы решить все проблемы?

[Michael Bykov <m.bykov@gmail.com>]

13 января 2010 г. 13:39 пользователь Rinat Bikov <becase@altlinux.org> написал:
> Здравствуйте, уважаемые!
> Я сейчас понял достаточно очевидную вещь...
> Каждый человек может решить все проблемы и достичь любой наперёд
> заданной цели, если эта цель ему действительно необходима. Зачем
> решать ту проблему, решение которой действительно не нужно человеку?
>
> Я могу создать искусственный интеллект. Доказать это можно только
> создав его. Но я не вижу для этого никаких препятствий, кроме своего
> желания. Я сейчас мыслю так, как должен мыслить ИИ, поэтому я могу его
> создать. И меня беспокоит только один вопрос: а это кому-нибудь
> помешает нормально жить? Если меня кто-то убедит в том, что да, это
> нанесёт урон (в чём я сомневаюсь, т.к. я сейчас мыслю так как ИИ, а ИИ
> не может ошибаться, но на получение ответа на вопрос: прав ли ИИ
> самому ИИ нужно время. Прежде чем что-то сделать ИИ будет думать: а не
> повредит ли это хоть какому-то человеку? И прежде чем что-то сделать
> будет думать именно об этом.).
>
> И я понимаю, что создание ИИ - вовсе не фантастика, так как для этого
> нужно просто понять, как мыслит человек. А человек может решить все
> проблемы и может посмотреть на все проблемы со стороны этого ИИ. То
> есть для его создания человек должен думать так как думает ИИ. И
> прежде чем что-то сделать, ИИ должен думать о благе всего
> человечества.
>
> P.S. Я просто думаю над этим вопросом с самого детства: почему я думаю
> так, а не иначе? Здесь основа рекурсии в моём случае - не навреди
> другим людям, по крайней мере если от твоих мыслей и действий не
> станет хуже, значит может быть либо также как было, либо стать лучше.
> А так как человек в процессе своей деятельности всё равно что-то
> делает, то по-любому не будет так, как было, то есть станет только
> лучше, если он будет руководствоваться основным принципом: не навреди
> и понимать, почему он именно в данной ситуации делает так, а не иначе.
>
> --
> С уважением, Ринат Биков.
>
 > Основа: Не навреди.
 > Рекурсия: Почему я думаю так, а не иначе?

Эх, Ринат, все как раз наоборот.

Нельзя создать ИИ, потому что нельзя понять, что такое понять. Чтобы
знать, нужно это у-знать. Чтобы узнать, нужно уже уметь у-знавать.
Здесь уже рекурсия. Чтобы суметь понять, что такое понять, нужно уже
понимать. Обойти эту трудность нельзя.

Начни с Платона - не с книг, где он упоминается, ни в коем случае. А
лично с диалога Софист.

А дальше - больше. Что такое польза и вред? Между прочим, что русскому
здорово, то немцу смерть.  Если хочешь не навредить всего лишь - то
это вообще не проблема, запишись в сикхи и ходи с метелкой, сметай
паучков с дороги, иначе раздавишь...

И не дай тебе бог мыслить, как мыслит ИИ. Вот это и есть вред и смерть
в чистом виде.

М.