Se constituyen por diagénesis (compactación y cementación) de los sedimentos, materiales procedentes de la alteración en superficie de otras rocas, que posteriormente son transportados y depositados por el agua, el hielo y el viento, con ayuda de la gravedad o por precipitación desde disoluciones. También se clasifican como sedimentarios los depósitos de materiales organógenos, formados por seres vivos, como los arrecifes de coral, los estratos de carbón o los depósitos de petróleo. Las rocas sedimentarias son las que típicamente presentan fósiles, restos de seres vivos, aunque éstos pueden observarse también en algunas rocas metamórficas de origen sedimentario.

Las rocas sedimentarias se forman en las cuencas de sedimentación, las concavidades del terreno a donde los materiales arrastrados por la erosión son conducidos con ayuda de la gravedad. Las estructuras originales de las rocas sedimentarias se llaman estratos, capas formadas por depósito, que constituyen formaciones a veces de gran potencia.