Missbrauch von KI und computergestützter Chemie zur Entwicklung neuer Chemiewaffen – eine schnell wachsende Gefahr

Die Verwendung und stetige Weiterentwicklung von computergestützten Methoden und Künstlicher Intelligenz (KI) sind in der chemischen und pharmazeutischen Forschung und Entwicklung einer der Erfolgstreiber der letzten Jahrzehnte. Dabei wächst sowohl die Menge als auch die Qualität der weltweit frei verfügbaren Daten stetig. So stehen mittlerweile große internationale Datenbanken zur Verfügung, in denen wissenschaftliche Forschungserkenntnisse so aufbereitete sind, dass sie mit Hilfe fortgeschrittener Algorithmen zur Erkenntnisgenerierung verwendet werden können. Diese ermöglichen dann z. B. die schnelle Analyse komplexer Molekülstrukturen oder die Vorhersage von chemischen Eigenschaften durch Mustererkennung in chemischen Strukturen. Aber auch in Bereichen der Entwicklung von neuen Synthesewegen und der Prozessoptimierung von chemischen Analysen kann KI eingesetzt werden.

Ein wichtiger Bereich, in dem die Nutzung computerbasierter Methoden und KI um ein vielfach zugenommen hat, ist die Pharmaforschung. Ihr Einsatz bietet zahlreiche Vorteile für die Erforschung und Entwicklung neuer Medikamente. Die verwendeten KI-Technologien wurden und werden mit der Intention entwickelt, Erkenntnisse zum Wohle der Menschheit zu generieren, um Zeit, Geld und Ressourcen bei der Entwicklung neuer Wirkstoffe und deren Herstellung zu sparen.

Die gleichen Methoden können allerdings auch missbraucht und damit zu gefährlichen Werkzeugen werden. Dies zeigten erstmal Sean Ekins und sein Team, als sie im Jahr 2022 aus dem Gedankenexperiment über den Missbrauch von KI-Technologien für die Arzneimittelentwicklung einen computergestützten Nachweis erbrachten. Dazu drehten die Forscher die Logik des von ihnen entworfenen de-novo-Molekülgenerator MegaSyn um. Dieser trifft Vorhersagen über die Bioaktivität von Molekülen, die er über Modelle des maschinellen Lernens ableitet. Zur Arzneimittelentwicklung war das Programm so konfiguriert, dass errechnete Toxizität bestraft, hingegen Zielaktivität belohnt wurde. Ins Bedrohliche umgeschrieben wurde nun sowohl eine hohe Toxizität als auch die Bioaktivität, wenn sie dem Mechanismus des bekannten Nervenkampfstoffes VX ähnelte, bei Molekülen belohnt. Innerhalb von wenigen Stunden generierte ihr Modell 40.000 Moleküle, die diesen Kriterien entsprachen. Die KI entwarf nicht nur VX selbst, sondern auch verschiedene andere bekannte chemische Kampfstoffe, die durch öffentliche Chemiedatenbanken bestätigt wurden. Darüber hinaus wurden neue Moleküle erstellt, die plausibel erschienen und basierend auf ihrer vorhergesagten Toxizität (LD50-Werten) voraussichtlich giftiger waren als öffentlich bekannte chemische Kampfstoffe. Umso beunruhigender war dabei, dass die Forscher die KI zuvor nicht auf diese Fragestellung trainiert hatten und dass die Datensätze, die zur Schulung der KI verwendet wurden, keine Nervenkampfstoffe enthielten, sondern aus öffentlich zugänglichen Daten zur Entwicklung von Arzneimittelwirkstoffen stammten.

Mit Veröffentlichung der Studie wurde erstmal das Gefahrenpotential greifbar, welches von computerbasierten Methoden und KI ausgehen kann, wenn dieses zur Entwicklung chemischer Waffen missbraucht werden würde. Die Realität zeigt, dass der Apell an die Vernunft nicht reicht, um diese Gefahr zu minimieren. Es bedarf der Festlegung ethischer Standards und Verhaltensregeln in diesem Bereich der Wissenschaft sowie des aktiven Austauschs zwischen Experten aus Industrie, Akademie und politischer Entscheidungsträger über die Auswirkungen der Anwendung der KI-basierten Methoden. Datenabfragen an öffentlich zugängliche KIs sollten verfügbar gemacht werden, um Sicherheit und Kontrolle darüber zu erlangen, wie veröffentlichte Modelle genutzt werden. Weiterhin könnten Einschränkungen in der Anwendbarkeit die Sicherheit erhöhen..

Text: Ute Haßmann
Foto von Igor Omilaev auf Unsplash

Links:

Artikel als PDF

Article as PDF

Der Vorschlag „Missbrauch von KI“ als diesmonatiges Gift zu küren…

…kam vom Arbeitskreis Computational Toxicology. Computergestützte Methoden spielen mittlerweile in allen Bereichen der Toxikologie eine wichtige Rolle. So können durch die Entwicklung und Anwendung von computerbasierten Modellen Vorhersagen darüber getroffen werden, wie Chemikalien auf biologische Systeme wirken und welche potenziellen Gesundheitsrisiken sie darstellen könnten. Weiterhin kann durch die Anwendung von derartigen Vorhersagemodellen die Anzahl an Tierversuchen reduziert werden. So ermöglicht die Nutzung von in silico-Modellen und in vitro-Tests Wissenschaftlern, Informationen über die Toxizität eines Moleküls zu sammeln, ohne auf Versuchstiere zurückgreifen zu müssen.

Aber auch bei der Identifizierung von Chemikalien-Sicherheitsprofilen helfen computergestützte Methoden. Durch die Analyse großer Datenmengen kann die Toxizität einer Chemikalie charakterisiert und Sicherheitsprofile können erstellt werden. Darüber hinaus fließen die Ergebnisse aus computer-gestützten Toxizitätsanalysen in Risikobewertungen ein, mit denen die potenziellen Gefahren von Chemikalien für die menschliche Gesundheit und die Umwelt aufgezeigt werden.

In silico

Der Begriff leitet sich vom Lateinischen "silicium" ab, was für das Element Silicium steht. Silicium ist das am meisten vorkommende chemische Elemente in Computerchips. „In silico“ bedeutet daher so viel wie „im Computer" und beschreibt die computergestützten Ansätze und grenzt sich damit von „in vitro" (in der Zellkultur) und „in vivo" (in lebenden Organismen) Experimenten ab.

Was sind chemische Waffen?

Chemische Waffen enthalten chemische Substanzen, die Menschen, Tiere oder Pflanzen schädigen, verletzen oder töten können. Die Wirkung chemischer Waffen kann vielfältig sein und hängt von der Art der verwendeten Chemikalien ab. Einige chemische Waffen können beispielsweise die Atemwege reizen und zu Atembeschwerden oder Erstickung führen, während andere neurotoxische Effekte haben die das Nervensystem angreifen, was zu Lähmungen, Krämpfen oder sogar zum Tod führen kann. Andere können Hautverbrennungen verursachen oder schwere chronische Gesundheitsschäden hervorrufen. Chemische Waffen können als Gase, Dämpfe, Flüssigkeiten oder Feststoffe vorliegen und auf verschiedenste Art verbreitet werden.

Verbot chemischer Waffen

Der Einsatz chemischer Waffen ist aufgrund ihrer potenziell verheerenden Auswirkungen international geächtet. Die Verwendung von chemischen Waffen ist durch die internationale Chemiewaffenkonvention von 1997 geregelt, welche den Einsatz, die Entwicklung, die Herstellung, die Lagerung und den Transfer von chemischen Waffen verbietet. Trotz dieser Verbote wurden und werden immer wieder chemische Waffen mit teils verheerenden Folgen eingesetzt.

VX

Bei VX handelt es sich um ein in den 1950er Jahren entwickeltes chemisches Nervengift. Die Wirkung von VX beruht auf seiner Fähigkeit das Enzym Acetylcholinesterase zu blockieren, was die übermäßige Stimulation der Nervenenden zur Folge hat. Dies kann zu einer Vielzahl von Symptomen führen, darunter Muskelkrämpfe, Atemlähmung, und letztlich zum Tod durch Atemstillstand. Die Behandlung von Vergiftungen durch VX erfolgt durch Atropin.