AGI & Intelligence Explosion: Was passiert, wenn KI intelligenter wird als der Mensch?

Was passiert, wenn Künstliche Intelligenz nicht nur unsere Arbeit übernimmt, sondern beginnt, sich selbst weiterzuentwickeln? Die Fortschritte der vergangenen Jahre sind enorm. Doch wie nah sind wir tatsächlich an einer Artificial General Intelligence (AGI), die menschliche Fähigkeiten erreicht oder übertrifft? 

Ruben Hetfleisch (Vorstandsmitglied von AI Austria) stellte diese Fragen beim CIO Kongress in den Mittelpunkt seines Vortrags. Der von LSZ veranstaltete CIO Kongress ist die relevanteste praxisorientierte Veranstaltung für CIOs und IT-Entscheider:innen in Österreich. Anschließend diskutierte er mit Fabian Lächler (Wiss. Mitarbeiter, Fraunhofer Austria), Jasmin Lampert (Senior Data Scientist, Austrian Institute of Technology, AIT) und Dima Rubanov (Co-Founder, Polytender) über technologische Grenzen, wissenschaftliche Durchbrüche und europäische Souveränität.

Artificial General Intelligence bezeichnet eine KI, die unterschiedlichste geistige Aufgaben auf menschlichem Niveau bewältigen und ihr Wissen flexibel auf neue Situationen übertragen kann. 

Hetfleisch verwies auf die rasanten Leistungssteigerungen aktueller KI-Modelle. Ein Treiber sind sogenannte Scaling Laws: Gesetzmäßigkeiten, nach denen mehr Rechenleistung, Trainingsdaten und Modellparameter die Leistungsfähigkeit von KI erhöhen können. Wann AGI erreicht werden könnte, ist umstritten. Ebenso offen bleibt, ob heutige Sprachmodelle dafür die geeignete Grundlage bilden. Ein Blick in die Materie lohnt aber jedenfalls.

Event-Tipp: Ruben Hetfleisch zählt zu den prägenden Stimmen der österreichischen KI-Landschaft und ist auch beim AI-Challenge Accepted! Summit veranstaltet von LSZ am 17. November in Linz dabei. Jetzt Ticket sichern!

Eine Intelligence Explosion beschreibt ein hypothetisches Szenario, in dem KI-Systeme zunehmend eigenständig bessere KI-Systeme entwickeln. Jede neue Generation könnte die Forschung weiter beschleunigen und damit einen sich selbst verstärkenden Entwicklungsprozess auslösen.

Ansätze davon sind bereits erkennbar: KI unterstützt die Softwareentwicklung, mathematische Forschung und die Überprüfung formaler Beweise. Von einer vollständig autonomen Selbstverbesserung ist das allerdings noch zu unterscheiden. Hinzu kommen Grenzen bei Rechenkapazitäten, Energieversorgung, hochwertigen Trainingsdaten und technischen Fähigkeiten.
 

Fabian Lächler (Fraunhofer Austria) unterschied beim LSZ CIO-Kongress zwischen digitaler und physischer Intelligenz. Während KI komplexe mathematische Aufgaben lösen oder Programmcode schreiben kann, stellt die sichere Steuerung von Produktionsmaschinen andere Anforderungen.

Das zeigt sich beim Reinforcement Learning: KI-Systeme lernen durch Rückmeldungen, welche Handlungen erfolgreich sind. Beim Schach lässt sich Erfolg eindeutig bewerten. In der Produktion beeinflussen Entscheidungen hingegen Sicherheit, Qualität, Energieverbrauch und Maschinenzustand. Nicht jede Konsequenz lässt sich unmittelbar messen oder bewerten.

Lesetipp: Wie KI bereits heute industrielle Prozesse verändert und welche Chancen sich daraus für den Standort Österreich ergeben, beleuchte der LSZ-Artikel KI: Wettbewerbsfaktor für die österreichische Industrie.

Jasmin Lampert (AIT) sieht enormes Potenzial für KI in der wissenschaftlichen Forschung, insbesondere bei Wetter- und Klimamodellen sowie in den Materialwissenschaften. Komplexe physikalische Simulationen benötigen enorme Rechenressourcen. KI-basierte Verfahren können bestimmte Berechnungen erheblich beschleunigen und neue Forschungsansätze ermöglichen. 

Gerade bei mathematischen Beweisen oder wissenschaftlichen Hypothesen reicht eine überzeugend wirkende KI-Lösung aber nicht aus. Ausgangsannahmen, Methodik und Schlussfolgerungen müssen weiterhin fachlich überprüft werden.

Lampert betonte deshalb die Bedeutung interdisziplinärer Forschung. Denn wissenschaftliche Korrektheit, ethische Fragen und gesellschaftliche Werte lassen sich nicht allein durch mathematische Optimierung beantworten.

Von einem AI-Takeover spricht man, wenn KI-Systeme die menschliche Kontrolle über wesentliche Entscheidungen oder Infrastrukturen übernehmen beziehungsweise sich dieser Kontrolle entziehen. Das Risiko dafür entsteht bereits durch agentische KI-Systeme, die eigenständig Aufgaben ausführen, Werkzeuge nutzen und unerwartete Handlungsstrategien entwickeln können.

Lampert (AIT) betonte beim LSZ CIO-Kongress insbesondere die wachsende Bedeutung von Cybersecurity. Werden zahlreiche KI-Agenten miteinander verbunden, lassen sich digitale Aktivitäten massiv skalieren. Das eröffnet Produktivitätspotenziale, kann aber ebenso Cyberangriffe, Desinformation und Manipulation erleichtern.

Für Unternehmen bedeutet das: Bereits heutige agentische Systeme brauchen klare Berechtigungen, technische Grenzen, Überwachung und menschliche Eingriffsmöglichkeiten.

Dima Rubanov (Polytender) brachte die geopolitische Perspektive ein. Bei den leistungsfähigsten Frontier-Modellen dominiert die USA. Europa hat mit Mistral sehr gute Open-Source-Modelle, steht hier aber in starker Konkurrenz zu China.

Rubanov verwies auf die internationalen Abhängigkeiten der Halbleiterindustrie: amerikanisches Chipdesign, taiwanische Fertigung und europäische Technologien greifen ineinander. Es entsteht kein modernen KI-Chip ohne die Maschinen von ASML aus den Niederlanden, mit Optik von Zeiss und Lasern von Trumpf. Vollständige technologische Unabhängigkeit ist deshalb selbst für führende KI-Nationen kaum realistisch. Europa ist in diesem Prozess aber schon heute unverzichtbar. 

Für Unternehmen eröffnen lokal betriebene KI-Modelle dennoch Alternativen. Sie ermöglichen mehr Kontrolle über sensible Daten und können für klar abgegrenzte Aufgaben wirtschaftlich sinnvoller sein als große externe Modelle.

Die Diskussion führte schließlich zu einer Frage, die weit über Technologie hinausgeht: Verlieren wir durch permanente KI-Unterstützung langfristig eigene Fähigkeiten?

Lampert zog einen Vergleich mit dem Taschenrechner. Kinder sollten zunächst mathematische Zusammenhänge verstehen, bevor sie Berechnungen vollständig an Maschinen delegieren. Ähnliches gilt für KI: Wer Ergebnisse nicht mehr selbst beurteilen kann, verliert zunehmend die Fähigkeit, Fehler zu erkennen.

Rubanov beschrieb dazu eine paradoxe Alltagssituation: Eine Person lässt sich von KI eine lange E-Mail formulieren, während die empfangende Person dieselbe Nachricht anschließend von KI zusammenfassen lässt. Technisch funktioniert das. Ob dadurch bessere Kommunikation entsteht, bleibt fraglich.

Lächler lenkte den Blick zurück auf den praktischen Nutzen: KI sollte vor allem als Werkzeug verstanden werden, um konkrete Probleme zu lösen.

Für Unternehmen in Österreich rücken damit drei Fragen in den Vordergrund:

• Wo schafft KI tatsächlich Mehrwert? Besonders in der Industrie müssen neue Anwendungen nicht nur leistungsfähig, sondern zuverlässig und wirtschaftlich sein.
• Wie behalten Unternehmen die Kontrolle? Agentische KI erhöht die Anforderungen an Cybersecurity, klare Verantwortlichkeiten und menschliche Eingriffsmöglichkeiten.
• Wie unabhängig wollen wir bleiben? Europäische und lokal betriebene KI-Modelle können Handlungsspielräume eröffnen. Entscheidend bleibt, eigene Kompetenzen zur Bewertung von KI-Ergebnissen aufzubauen.

Die Diskussion geht in der LSZ-Community weiter: am 10. November beim Cyber Crime Forum in Linz zu digitalen Bedrohungen und IT-Sicherheit, am 11. November bei der Production IT in Rankweil zu Digitalisierung und KI in der industriellen Praxis sowie am 17. November beim AI Summit „Challenge Accepted!“, wo auch Ruben Hetfleisch wieder mit dabei ist und die Chancen, Grenzen und Zukunft der Künstlichen Intelligenz im Mittelpunkt stehen.

Save the Date: Der nächste LSZ CIO Kongress in Loipersdorf findet vom 17. bis 19. Oktober 2027 statt. Der relevanteste IT-Kongress Österreichs bringt hochkarätige Expert:innen und führende IT-Entscheider:innen zusammen. Im Mittelpunkt stehen konkrete Erfahrungen aus der Unternehmenspraxis, strategische IT-Zukunftsfragen und der persönliche Austausch innerhalb der CIO-Community.