Эффективный альтруизм поднимает тревогу о ИИ: почему Питер Тиль считает это опасным

Сейчас в Кремниевой долине доминируют апокалиптические представления о будущих ИИ. Их подгоняет философия эффективного альтруизма – набор идей, который уже несколько лет живёт на периферии, а теперь заполонил отраслевые дискуссии.\ \ Эффективный альтруизм нашёл своих приверженцев в компаниях от Anthropic до недавно созданного надзорного органа METR, отвечающего за безопасность ИИ. Эти организации активно продвигают модели, которые, по их мнению, минимизируют потенциальный вред, но одновременно усиливают страх перед «неуправляемым» интеллектом.\ \ Питер Тиль, один из самых заметных инвесторов Силикона, бросает вызов этой тенденции. Он считает, что постоянный цикл «ИИ‑апокалипсиса» служит интересам небольшого круга влиятельных фигур и отвлекает от реальных проблем развития технологий. Тиль предупреждает, что такие сценарии могут стать инструментом давления и регулирования, а не объективным анализом угроз.