Sau cơn mưa, không khí vẫn còn đọng lại vô số hạt nước li ti trôi lơ lửng, mỗi hạt đóng vai trò như một lăng kính tí hon. Khi một tia nắng đi vào giọt nước, nó bị bẻ cong ở mặt trước, dội ngược lại ở mặt sau rồi bẻ cong thêm lần nữa khi thoát ra ngoài. Mỗi màu trong ánh sáng trắng bị bẻ theo một góc hơi khác nhau, nên khi thoát ra chúng tách rời và xoè thành một dải bảy sắc. Hàng triệu giọt nước cùng làm việc này khiến ta nhìn thấy một vòng cung màu sắc trọn vẹn trên bầu trời.

Cốt lõi của hiện tượng là hai quá trình quang học nối tiếp nhau: khúc xạ và tán sắc. Khúc xạ là hiện tượng ánh sáng đổi hướng khi đi từ không khí vào nước. Vì mỗi màu ánh sáng có bước sóng riêng, chúng bị khúc xạ với góc lệch khác nhau, gọi là tán sắc — ánh sáng đỏ lệch ít nhất còn ánh sáng tím lệch nhiều nhất. Bên trong giọt nước còn xảy ra phản xạ toàn phần ở mặt sau, hắt tia sáng quay trở lại phía người quan sát. Vì góc lệch của mỗi màu khác nhau khoảng 40 đến 42 độ, cầu vồng luôn hiện ra dưới dạng cung tròn với thứ tự màu cố định từ đỏ ở ngoài tới tím ở trong.

Bạn dễ bắt gặp cầu vồng nhất vào một buổi chiều hè, khi cơn mưa rào vừa tạnh mà mặt trời lại ló ra sau đám mây; lúc đó nếu đứng quay lưng về phía mặt trời và nhìn về phía đám mây còn mưa, bạn sẽ thấy vòng cung bảy sắc hiện lên rõ nét. Người làm vườn cũng hay thấy cầu vồng nhỏ khi tưới cây bằng vòi phun sương lúc trời nắng, vì những hạt nước li ti từ vòi hoạt động y hệt giọt mưa. Trên máy bay, hành khách đôi khi còn thấy cầu vồng tròn đầy đủ 360 độ khi nhìn xuống đám mây phía dưới, điều gần như không thể thấy được từ mặt đất vì đường chân trời che mất nửa dưới.

Nhiều người tưởng cầu vồng là một vật thể thật nằm ở một vị trí cố định trên bầu trời mà ai cũng nhìn thấy giống hệt nhau, nhưng thực ra cầu vồng chỉ là một hiệu ứng quang học phụ thuộc hoàn toàn vào vị trí mắt người quan sát so với mặt trời và các giọt nước. Vì vậy, hai người đứng cách nhau vài mét thực chất đang nhìn thấy hai cầu vồng khác nhau được tạo bởi những giọt nước khác nhau, chỉ là trông có vẻ giống một cái. Cũng vì lý do đó, bạn không bao giờ có thể "đi tới" chân cầu vồng, vì nó luôn dịch chuyển theo đúng vị trí của bạn.