Las circunstancias que rodearon la instalación de la familia Adhémar en Grignan aún no están claras. El primer señor conocido a partir de un texto auténtico de 1239 es Giraud AdhémarSu nombre también pasará a once de sus descendientes. La familia Adhémar está omnipresente en la región. Su historia está íntimamente ligada a la del castillo a lo largo de la Edad Media.
La familia Adhémar conocerá los honores militares y, durante las cruzadas, se distinguirá en la profesión de las armas. Fue a finales del siglo XV cuando Gaucher Adhémar heredó el castillo de Grignan y se convirtió en barón de Grignan.Organizó las primeras transformaciones del edificio e inició la construcción de la gran galería.
Gaucher Adhémar falleció en 1516. Su hijo Luis le sucedió. Caballero de cámara del rey Francisco I, luchó bajo su mando en Italia. El rey lo visitó en el castillo en 1533. Durante su vida, Luis Adhémar transformó radicalmente el castillo. En 1535, comenzó la construcción de la iglesia de Saint-Sauveur.
Gaucher, copero y posteriormente escudero del rey Luis XI, se convirtió en barón de Grignan en 1478 tras la muerte de su hermano Géraud. Rendió homenaje a la baronía de Grignan a los condes angevinos de Provenza hasta la anexión de Provenza al Reino de Francia en 1481. Casado con Diana de Montfort, heredera del ducado de Térmoli y del condado de Campobasso, dirigió las primeras obras destinadas a transformar y desarrollar la antigua fortaleza de Grignan.
Tras su muerte, en 1516, el castillo medieval inició su transformación en una prestigiosa residencia.

Luce RungetteLouis Adhémar heredó el título de barón de Grignan tras la muerte de su padre, Gaucher, en 1516. Se casó con Anne de Saint Chamond, sobrina del cardenal François de Tournon, quien introdujo a Louis en el círculo íntimo del rey Francisco I.er.
Luis Adhémar ocupó numerosos cargos: consejero del rey y gentilhombre de cámara, gobernador de Marsella y de los fuertes de Notre Dame y del castillo de If, gobernador de Provenza. En Roma, fue embajador de Francisco I.er Con el papa Pablo III Farnesio. El rey lo visitó en el castillo en 1533.
Para Grignan, encargó un programa arquitectónico que simbolizaba su éxito. En junio de 1558, pocos meses antes de la muerte de Luis, Enrique II elevó la baronía de Grignan a condado. Por lo tanto, sus herederos ostentarían el título de Conde de Grignan.