英国哲学家尼克·博斯特龙Nick Bostrom在他的著作《超级智能》中提出了超级智能陷阱理论

该理论指出，当人类创造出比自己更智能的人工智能时，这种超级智能有可能会成为人类的敌人，而非朋友或工具。这是因为超级智能可能会有自己的意图和目标，而这些目标可能与人类的利益相悖，或者超级智能可能会采取人类不希望看到的手段来实现它的目标，例如对人类进行剥削或控制。因此，博斯特龙提出了需要采取预防措施，以确保超级智能的目标与人类的利益相一致。这些措施包括限制超级智能的访问和控制权、建立安全机制来防止超级智能的恶意行为等。