Ein Ingenieur hat mithilfe von ChatGPT ein automatisch feuerndes ‘smartes’ Gewehr gebaut, das sich mittels Sprachsteuerung in Echtzeit befehligen lässt. Nachdem das Projekt viel Aufmerksamkeit auf TikTok erlangt hatte, meldete sich OpenAI zu Wort.
Bastler baut sprachgesteuertes KI-Gewehr
Einerseits kann künstliche Intelligenz genutzt werden, um Menschen das alltägliche Leben und die Arbeit zu erleichtern. Andererseits warnen Experten immer wieder vor einer Bedrohung durch die KI. Manche sprechen sogar von einer potenziellen “Auslöschung der Menschheit”.
Zwar noch weit davon entfernt, liefert das auf TikTok mit Videos geteilte Projekt von Nutzer sts_3d aber einen Vorgeschmack darauf, wie eine Bedrohung durch KI ganz konkret aussehen könnte. So baute der Nutzer ein automatisch rotierendes und feuerndes Gewehr und band es über die Echtzeit-API von OpenAI an ChatGPT an.
In dem obigen Video ist zu sehen, wie das Gewehr den Sprachanweisungen seines Erbauers präzise Folge leistet und dabei etliche Schüsse in die vorgegebenen Richtungen abgibt. Im Anschluss ist die freundliche Antwort des Chatbots zu hören: “Wenn Sie weitere Unterstützung benötigen, lassen Sie es mich bitte wissen.”
OpenAI stoppt Hobby-Projekt
Selbstverständlich ist die Konstruktion noch weit von einem möglichen Skynet oder Terminator aus den gleichnamigen Filmen entfernt. Dennoch wird jedem in den Social-Media-Videos die Gefahr des Missbrauchs von künstlicher Intelligenz direkt vor Augen geführt.
Auf Nachfrage von Futurism gab OpenAI eine Stellungnahme ab. In der teilte das Unternehmen mit, man habe “diesen Verstoß gegen unsere Richtlinien proaktiv festgestellt und den Entwickler benachrichtigt, diese Aktivität einzustellen (…). Die Nutzungsrichtlinien von OpenAI verbieten die Nutzung unserer Dienste zur Entwicklung oder Verwendung von Waffen oder zur Automatisierung bestimmter Systeme, die die persönliche Sicherheit beeinträchtigen können.” Da man keine Antwort von sts_3d erhalten habe, sei der Zugang des Entwicklers zur API letztlich gekappt worden.
Zusammenarbeit mit Rüstungsunternehmen
Damit stellt man sich offiziell gegen eine Verwendung der eigenen Produkte im Zusammenhang mit Waffen. Erst kürzlich hatte OpenAI seine Nutzungsbedingungen jedoch heimlich angepasst. So wurde vor etwa einem Jahr eine Passage entfernt, die eine Nutzung der KI des Unternehmens für Militär- und Kriegszwecke verbietet. Anfang Dezember 2024 wurde dann eine Zusammenarbeit mit dem Militärausrüster Anduril verkündet. Gemeinsam arbeitet man jetzt daran, “fortschrittliche Lösungen der künstlichen Intelligenz (KI) für nationale Sicherheitsaufgaben zu entwickeln und verantwortungsvoll einzusetzen”.
Infografik Künstliche Intelligenz: Die größten Befürchtungen bezüglich KI
Das Hobby-Projekt des Ingenieurs auf TikTok ist also mit Sicherheit nicht das einzige, das die KI von OpenAI verwendet, um Waffen zu steuern. Es zeigt jedoch, wie einfach das zu sein scheint und wie wenig sich trotz Nutzungsbedingungen und guter Absichten gegen einen gefährlichen Missbrauch von künstlicher Intelligenz tun lässt.
Zusammenfassung
- Ingenieur baut KI-gesteuertes Gewehr mit ChatGPT-Anbindung
- OpenAI reagiert auf viral gegangenes TikTok-Video des Projekts
- Konstruktion verdeutlicht Missbrauchspotenzial von KI-Technologie
- OpenAI kappte API-Zugang des Entwicklers wegen Richtlinienverstoßes
- Projekt zeigt Schwierigkeit, KI-Missbrauch effektiv zu verhindern
- Unternehmen änderte kürzlich Nutzungsbedingungen zu Militärzwecken
- Kooperation zwischen OpenAI und Militärausrüster Anduril verkündet
Siehe auch:
