AI hiện đã giỏi hơn con người ở nhiều việc hẹp — chơi cờ, đọc ảnh X-quang, xử lý biển dữ liệu. Giả sử nó vượt ta ở hầu hết lĩnh vực trí tuệ, làn sóng đầu tiên là hàng loạt công việc bàn giấy được tự động hoá và năng suất tăng vọt. Ngay bên cạnh niềm phấn khích ấy là hai câu hỏi nhức nhối trồi lên: những người mất việc sẽ đi đâu, và ai đang cầm dây cương của các hệ thống mạnh đến thế.

Đi xa hơn, con đường chia làm hai ngả rõ rệt. Nếu được định hướng và giám sát tốt, AI có thể rút ngắn hàng chục năm nghiên cứu y học, khí hậu, năng lượng. Nếu buông lỏng, quyền lực có thể dồn vào tay số ít người sở hữu những hệ thống mạnh nhất, và các quyết định hệ trọng bị giao cho một cỗ máy mà chính ta cũng chưa hiểu hết cách nó suy nghĩ. Ranh giới giữa hai ngả nằm ở luật chơi ta đặt ra hôm nay.

Thông minh không đồng nghĩa với có ý thức hay tham vọng riêng. AI theo đuổi đúng mục tiêu con người gán cho nó, nên rủi ro lớn nhất thường không phải cỗ máy "muốn" hại ta, mà là ta ra một mục tiêu sơ hở rồi mất khả năng can thiệp khi nó lao theo mục tiêu ấy quá hiệu quả.

Phim ảnh thích vẽ AI thành robot cầm súng đòi diệt loài người. Mối lo chính đáng lại gần gũi và nhàm chán hơn nhiều: dữ liệu thiên vị, mất việc làm, tin giả tràn lan và quyền lực tập trung. Sợ đúng chỗ mới phòng đúng cách.