El encuentro de Domingo con la herejía albigense en Languedoc, en el sur de Francia, fue un punto de inflexión en su vida. La herejía albigense, basada en un dualismo entre el bien y el mal, rechazaba la materia como inherentemente mala, negaba la Encarnación y los sacramentos, y promovía una vida ascética extrema para sus «Perfectos». Los predicadores cistercienses, enviados para combatir esta herejía, no lograban el éxito esperado debido a su estilo de vida que no contrastaba con la austeridad de los albigenses.
Domingo, junto con el obispo Diego de Osma, reconoció la necesidad de un nuevo enfoque. Propuso que los predicadores cristianos adoptaran un estilo de vida más austero, viajando a pie, sin grandes séquitos ni lujos, y utilizando la persuasión y la discusión pacífica en lugar de las amenazas. Domingo mismo fue el primero en dar ejemplo, viviendo una vida de instrucción, paciencia, penitencia, ayuno, lágrimas y oración. Se negó tres veces a ser elevado al episcopado, sintiendo que estaba llamado a otra obra.
Una de las primeras iniciativas de Domingo fue la fundación de un monasterio en Prouille en 1206, para acoger a mujeres convertidas de la herejía albigense y proporcionar un refugio y educación para niñas expuestas a influencias negativas,. Este monasterio se convirtió en un centro de sus misiones y obras apostólicas.
En 1215, con el apoyo del obispo Foulques de Toulouse, Domingo estableció la primera comunidad de predicadores en Toulouse,. Esta comunidad, inicialmente una congregación diocesana, tenía como misión la propagación de la verdadera doctrina, las buenas costumbres y la erradicación de la herejía. Sin embargo, Domingo soñaba con una orden mundial que llevara el apostolado a los confines de la tierra.
Ese mismo año, Domingo asistió al Cuarto Concilio de Letrán en Roma junto al obispo de Toulouse,. El concilio abordó la necesidad de mejorar las costumbres, extinguir la herejía y fortalecer la fe, y emitió un canon que instaba a los obispos a delegar hombres capaces para predicar la palabra de Dios,. Aunque el concilio había legislado contra la multiplicación de nuevas órdenes religiosas, el Papa Inocencio III, después de una visión, dio su aprobación verbal al proyecto de Domingo, pidiéndole que eligiera una de las reglas ya aprobadas.
En agosto de 1216, Domingo y sus dieciséis compañeros se reunieron en Prouille y eligieron la Regla de San Agustín, la más antigua y menos detallada, adaptándola a las necesidades de la vida apostólica itinerante,. A esta regla, Domingo añadió constituciones particulares, algunas tomadas de la Orden de Prémontré.
En octubre de 1216, Domingo regresó a Roma, y el Papa Honorio III confirmó su orden y sus constituciones ese mismo año, declarando: «Considerando que los religiosos de vuestra orden serán campeones de la fe y una verdadera luz del mundo, confirmamos vuestra orden»,. Así nació la Orden de Predicadores.