Le potentiel des nanoparticules pour ameliorer l'efficacite de la radiotherapie est demontre par de nombreuses etudes experimentales in vivo et in vitro. Ces particules metalliques mettent en jeu des atomes de numero atomique eleve qui augmentent l'effet de la radiosensibilisation. La reaction en jeu est la radiolyse de l'eau: une fois excitees par un rayon X, elles generent des electrons secondaires et des especes reactives oxygenees (ROS) qui amplifient les degats d'ADN et menent a une plus grande destruction des cellules cancereuses. Les nanoparticules d'or (AuNPs) sont le radiosensibilisateur le plus etudie aujourd'hui car elles sont generalement peu toxiques et elles ont une longue duree de circulation sanguine grace a la fonctionnalisation des ligands hydrophiles. Pour une efficacite therapeutique plus optimale, plusieurs proprietes des AuNPs doivent etre prises en compte lors de la synthese comme leur taille, leur forme et leur surface qui sont suspectibles d'influencer ses effets catalytiques (sites actif) et son interaction avec le rayonnement dans l'environnement biologique (majoritairement de liquide d'eau). Ces aspects structuraux ne sont pas encore examines dans l'etat de l'art, ni experimentalement ni theoriquement. Ce travail de these a pour but de rationaliser le comportement et la stabilite de AuNPs dans un environnement chimique ou biologique avant l'irradiation par des outils de modelisation theorique. Dans un premier temps, nous nous sommes interesses a la stabilite des polyedres d'or dans la gamme de 1- 3.4 nm, une gamme ou l'effet radiosensibilisant est interessant en fonction de leur taille et leur morphologie. Nous comparons nos resultats obtenus a l'aide de la theorie de la fonctionnelle de la densite (DFT) qui tient compte de la correction de dispersion semiempirique (DFT-D3) avec d'autres resultats issus de la litterature obtenus principalement par les methodes d'optimisation globale. Nous etudions ensuite le comportement de ces nanoparticules dans un environnement biologique (hydratation) et chimique modele (PEGylation), et la combinaison des deux environnements. Quand les nanoclusters de 0.9-1.8 nm sont en interaction avec une couche de molecules d'eau a saturation, nous avons montre qu'il y a une transformation de NPs metastables (dans le vide) telles que l'ino-decaedre en NPs metastables plus favorables telles que l'icosaedre. Alors qu'en presence d'une couche de ligands PEG, la liaison forte Au-S et les liaisons hydrogene entre les ligands entrainent une deformation significative de la morphologie de la nanoparticule, a savoir une stellation du decaedre Au54. La deformation induite par la PEGylation est encore plus forte en presence de molecules d'eau co-adsorbees. Par ailleurs, nous avons montre que les ligands PEG promeuvent le confinement de quelques molecules d'eau a proximite des AuNPs. Nos conclusions ouvrent des perspertives interessantes pour la modelisation theorique de la radiolyse de l'eau. Les resultats DFT obtenus a partir de nos modeles permettront aussi d'affiner les simulations Monte-Carlo mises au point par les collegues de l'Institut de Physique Nucleaire de Lyon (Pr. M. Beuve). Parallelement a ces etudes, nous nous sommes interesses a la caracterisation de differents types de lesions d'ADN induites par les ROS et aussi par le rayonnement ultraviolet, plus specifiquement sur la formation et la reparation difficile de certaines lesions observees experimentalement, qui seraient a l'origine de la mutation de l'ADN. Deux projets ont ete menes dans ce contexte, pour lesquels la methode de dynamique moleculaire classique a ete utilisee. Premierement, nous demontrons l'interaction d'un peptide trilysine (KKK) avec un oligonucleotide qui pourrait conduire a la formation de pontage d'ADN-polyamine. Ensuite, le deuxieme projet porte sur la rationalisation de differents taux de reparation de dimeres de cyclobutane pyrimidine (CPD): T<>T, T<>C, C<>T, et C<>C en presence de l'enzyme de reconnaissance DDB2 a l'echelle atomique. (auteur)