Отчет о работе института доступен по ссылке
Футуролог Данила Медведев на своем канале в “телеграмм” дает анализ работе Института Будущего и предлагает поделиться мнениями о дальнейшем развитии темы.
“Future of Humanity Institute проработал с 2005 года и был закрыт 16 апреля 2024 года. Финальный отчет (https://www.futureofhumanityinstitute.org/s/FHI-Final-Report.pdf) подготовлен Андерсом Сандбергом.
Общая оценка деятельности FHI:
– Провальная деятельность без значимых результатов.
– Преданы и проигнорированы трансгуманизм и иммортализм (Бостром был главой WTA, но он не тру трансгуманист).
– Недостижение приоритетов, governance будущим не налажен, в policy ничего ценного не ушло.
– Очень слабое управление самим проектом.
– Ник Бостром и Андерс Сандберг — скучные академические философы.
– Слабость пиара (примеры успешного пиара: Бент Фливберг, Само Бурья).
– Малоэффективное использование средств.
Содержательные результаты FHI:
– Есть некоторый вклад в темы: экзистенциальные риски, эффективный альтруизм, лонгтермизм, AI alignment (но в целом все эти темы довольно слабо сработали).
Проваленные темы, проекты и идеи:
– Заброшена тема улучшения человека (human enhancement).
– Бессмертие, иммортализм и продление жизни в отчете даже не упомянуты.
– Прекращение проекта по усилению интеллекта.
– Бесполезное приглашение Эрика Дрекслера, которому не помогли что-то сделать по нанотеху.
Оценка работ по тематике интеллекта:
– Замалчивается роль Вернера Винжа и Юдковского (вклад в популяризацию рациональности и AI safety).
– Прекращение работ по cognitive enhancement в 2010 году (саму тему поднимали до этого, в т. ч. Данила Медведев на TransVision 2005).
– Отсутствие практических шагов по усилению интеллекта — провал.
– Перемещение фокуса на искусственный интеллект — преступление.
– Дорожная карта по загрузке мозга (WBE) не была потом никак развита.
Неспособность к интеграции наружу и провалы:
– FHI не вписался в Оксфордскую бюрократию, за 20 лет можно было это сделать или придумать обходной путь.
– Скандал с Сэмом Банкманом-Фридом (ЭА, крипта, мошенничество) замалчивается.
– Неясна эффективность проектов Open Philanthropy и GiveWell, но FHI точно не смогли сработаться с ними.
– FHI не выстроили связей с футурологами (футурконсалтинг, форсайты).
– Плохая работа с сообществами рационалистов и трансгуманистов.
Оценка работ по масштабным вопросам:
– Неадекватное и неэффективное выполнение работ по Global Priorities. Это никуда не пошло.
– Работы по grand futures и макростратегии без реальных результатов.
– Очевидно провалено определение приоритетов для самого FHI, что показательно.
Актуальность создания института заново:
– Необходимо решение нерешенных вопросов: бессмертие, развитие интеллекта, молекулярные нанотехнологии.
– Необходим более эффективный и результативный подход к работе с будущим.
– Всё ещё актуальна задача обеспечения благоприятного будущего человечества.
– Институт следует создавать в другом месте и с другим руководством и командой.
По вопросу создания нового института будущего человечества пишите в ЛС или в комментарии.”
