Những ý định của con người là sản phẩm của quá trình tiến hóa—hàng triệu tín hiệu hợp nhất trong tích tắc thúc đẩy mỗi quyết định. Nhưng đó chính là vấn đề: khoảng cách giữa những gì AI có thể làm và những gì con người thực sự muốn lại lớn đến mức phi lý. Thậm chí còn trớ trêu hơn, khi quyền lực đột nhiên rơi vào tay, mọi người lại trở nên tự tin quá mức vào lĩnh vực "đã nắm vững", đây là hiện tượng Dunning-Kruger điển hình thể hiện rõ rệt trong làn sóng công nghệ mới.