Обложка: Рациональность: от ИИ до зомби. Элиезер Юдковский
Научная фантастика

Рациональность: от ИИ до зомби. Элиезер Юдковский

У этой истории ещё нет рейтинга.Ваша оценка станет первой!
186 глав
Завершен
367 мин

Автор истории

О чем история

"Книга-сборник из 333 эссе о человеческой рациональности."

Теперь истории можно искать по тегам. Попробуйте!

Глава 1

Предисловие

Перед вами — собрание записей в блог за два года. Сейчас я оглядываюсь на этот проект и вижу, что многое сделал совершенно неправильно. Я считаю, это хорошо. Если бы я оглянулся назад и НЕ увидел ошибок — это бы значило, что с 2009 года я не вырос как писатель и не улучшил своё понимание материала. «Ой!» — говорим мы, когда пересматриваем свои убеждения и стратегии. Если, оглядываясь назад, ты не видишь, что именно ты сделал неправильно — значит, ты с тех пор ничему не научился и не изменил свое мнение.

В течение двух лет я писал посты в блог и не думал о том, чтобы помогать людям в их повседневной жизни, и я ошибался. Я хотел помогать людям с большими, сложными и важными проблемами, и подбирал впечатляющие абстрактные примеры.

По прошествии времени я вижу, что это было второй по важности ошибкой в моём подходе. Она была связана с первой: я не понимал, что огромная проблема в изучении описанного мною способа рассуждений — применять его на практике, а не просто знать теорию. Я не осознавал, что важна именно практическая часть; оглядываясь назад, я могу сказать разве что «Ой!» и «Эх».

Да, порой те самые большие проблемы и вправду важны, но это не отменяет простой правды: чтобы мастерски овладеть этими навыками, нужно практиковаться, а это трудно делать на отвлеченных задачах. (Сегодня CFAR, Центр прикладной рациональности, постоянно работает над тем, чтобы устранить последствия этой серьёзной ошибки).

И третья огромная ошибка в том, что я слишком сильно концентрировался на рациональных убеждениях — и слишком мало на рациональном действии.

Четвёртая по важности ошибка — организация содержания цепочек. В частности, нужно было раньше создать вики и предоставить возможность читать посты как части цепочек.

Эту ошибку по крайней мере можно исправить. В нашей книге «Rationality: From AI to Zombies» Роб Бенсинджер отредактировал мои записи и организовал их по-другому, стараясь не переписывать содержание материалов (хотя кое-где всё же пришлось это сделать).

1 / 186
***

Комментарии (0)

Войдите, чтобы оставить комментарий