Suốt ban ngày, mặt đất hấp thụ nhiệt từ Mặt Trời rồi lại toả nhiệt trở lại vào ban đêm, đặc biệt nhanh vào những đêm trời quang mây vì không có lớp mây giữ nhiệt lại. Lớp không khí sát mặt đất vì thế nguội đi rất nhanh và nhanh hơn hẳn lớp không khí ở trên cao. Không khí lạnh chỉ giữ được một lượng hơi nước nhất định; khi nhiệt độ hạ xuống tới một ngưỡng gọi là điểm sương, không khí không còn chứa nổi lượng hơi nước đó nữa và phần dư ngưng tụ thành những giọt nước cực nhỏ lơ lửng sát mặt đất, chính là sương mù mà ta thấy vào sáng sớm.

Cốt lõi hiện tượng là sự ngưng tụ hơi nước khi không khí bị làm lạnh xuống dưới điểm sương, giống hệt cơ chế tạo mây nhưng xảy ra ngay sát mặt đất thay vì trên cao. Ba điều kiện thường đi cùng nhau để sương mù dày đặc là trời quang mây (đất mất nhiệt nhanh), gió lặng hoặc rất nhẹ (không khí lạnh không bị xáo trộn hay cuốn đi), và độ ẩm không khí ban đầu khá cao. Vùng gần sông, hồ hay ruộng lúa thường có sương mù dày hơn nơi khô ráo vì lượng hơi nước sẵn có trong không khí nhiều hơn. Đến khi Mặt Trời lên cao và bắt đầu sưởi ấm mặt đất trở lại, nhiệt độ tăng lên trên điểm sương, các giọt nước bốc hơi trở lại và sương mù tan dần, thường là trước giữa trưa.

Ở những vùng cao nguyên như Đà Lạt hay Sa Pa, sương mù dày đặc buổi sáng gần như là cảnh quen thuộc mỗi ngày, đặc biệt vào mùa khô khi trời quang mây nhiều đêm liền. Người lái xe qua các đoạn đường ven sông, ven hồ vào sáng sớm cũng hay gặp sương mù bất chợt dày tới mức chỉ nhìn rõ vài mét, buộc phải bật đèn sương mù và giảm tốc độ. Đến khoảng 8, 9 giờ sáng khi nắng lên, lớp sương ấy thường tan biến nhanh chóng, để lại bầu trời quang đãng.

Nhiều người nhầm sương mù với mây thấp là hai hiện tượng hoàn toàn khác nhau, nhưng thực chất chúng là cùng một cơ chế ngưng tụ hơi nước, chỉ khác ở việc nó hình thành sát mặt đất hay ở trên cao; nếu bạn đứng trên núi cao và bước vào một đám mây thấp, cảm giác sẽ giống hệt như đi trong sương mù. Cũng có người nghĩ sương mù chỉ xuất hiện khi trời lạnh, trong khi thực tế nó có thể xảy ra quanh năm miễn đủ ẩm, gió lặng và nhiệt độ hạ xuống đúng điểm sương, kể cả vào những buổi sáng mùa hè ẩm ướt.