Ein Algorithmus, der das Potenzial besitzt, den gegenwärtig stark umworbenen ChatGPT aus dem Geschäft zu drängen. Laut Sepp Hochreiter, Direktor des Instituts für Maschinelles Lernen und des Linz Institute of Technology AI Lab, befindet sich dieser derzeit auf den Servern der Johannes Keppler Universität (JKU) in Linz.
Der in Deutschland geborene Wissenschaftler, der Forschung im Bereich des maschinellen Lernens seit über zehn Jahren in Österreich betreibt, legte mit seiner Arbeit zu Long short-Term Memory (LSTM) in den späten 1990er Jahren den Grundstein für die Entwicklung heutiger KI-Systeme.
Bis jetzt hält Sepp Hochreiter den Algorithmus jedoch zurück, hauptsächlich aufgrund fehlender Mittel für die nötige Rechenleistung zum Training der KI. Aber dies könnte sich laut in absehbarer Zeit ändern, wie Hochreiter beim zweiten Deep Dive Meet Up des Industriemagazin erklärte.
Doch zurück an den Anfang: Die Entwicklung des Algorithmus war mit einigen Schwierigkeiten verbunden. Vor allem mit einem Problem, das sehr viele Forschende in Österreich bemängeln: Für Grundlagenforschung fehlt oftmals das benötigte Kleingeld.
Dabei ist ebendiese nicht nur in Sachen KI unabdingbar, wie Prof. Sepp Hochreiter in einem Interview bestätigt: „Die Grundlagenforschung und die praktische Anwendung gehen Hand in Hand im Bereich der Künstlichen Intelligenz . Ein Paradebeispiel hierfür sind die sogenannten ‚self-normalized Networks‘, die wir in Linz entwickelt haben und die bereits drei Monate später bei Amazon implementiert wurden, was zu signifikanten Umsatzsteigerungen führte. Die Zeitspanne vom theoretischen Modell, das aus der Grundlagenforschung entsteht, bis hin zur praktischen Umsetzung kann in diesem Feld außerordentlich kurz sein.“
Hochreiter ergänzt: „Dies zeigt sich auch bei Open AI, wo die Forschenden wegen der Geschwindigkeit des Fortschritts kaum Zeit hatten, Entwicklerinnen und Entwickler ins Team zu holen. Ein weiteres markantes Merkmal dieses Bereichs ist, dass die neu entwickelten Werkzeuge sofort von großen Unternehmen übernommen werden. In Österreich ist man eher gewohnt, dass ein Produkt ausgiebig perfektioniert wird, bevor es auf den Markt kommt. Aber im KI-Bereich läuft es anders, wie die rasche Markteinführung von ChatGPT zeigt.“
Hochreiters jüngste Errungenschaft stützt sich auf sein LSTM-Prinzip aus den 1990er Jahren. Angesichts der zunehmenden Textlänge, mit der Programme wie ChatGPT zu tun haben, greift Sepp Hochreiter wieder auf das LSTM-Konzept zurück. Dieses wurde jedoch mit der Transformer-Technologie verknüpft, die derzeit in nahezu allen großen KI-Modellen zum Einsatz kommt. Das Resultat ist eine KI, die schneller ist und viel längere Sätze analysieren kann.
Doch: Die Ausbildung einer Künstlichen Intelligenz erfordert enorme Rechenkapazitäten und eine Menge Personal in Form von Softwareentwickler:innen – beides sei laut Hochreiter aufgrund des begrenzten Budgets in Österreich nicht realisierbar. Zum Beispiel werden in den Niederlanden zwei Milliarden Euro in die Forschung und Entwicklung von AI investiert. Die Universität Tübingen, wo Hochreiter Mitglied eines Gremiums ist, erhält jährlich rund 30 Millionen Euro für ihr KI-Zentrum.
Im Vergleich zu den Budgets anderer Länder für die KI-Forschung und -Entwicklung befinde sich Österreich, laut Hochreiter, auf einem Niveau mit Uganda und Mexiko.
Für KI-Grundlangenforschung sieht Prof. Sepp Hochreiter einen Förderbedarf in Österreich von rund 500 Millionen Euro: „Ich habe mir die österreichischen Fördermaßnahmen noch einmal im Detail angeschaut und komme auf eine jährliche Fördersumme von etwa zwölf Millionen Euro, die wirklich für den Bereich KI vorgesehen sind – also sind wir von den angeblichen 150 Millionen Euro, die Staatssekretär Tursky genannt hat, weit entfernt. Das ärgert mich, weil ich sehe, was in Deutschland derzeit in diesem Bereich gemacht wird. Da gibt es KI-Zentren, die diesen Namen auch verdienen.“
Vor allem das Anlernen der KI benötigt viel Rechenleistung und sei laut Hochreiter der kostspieligste Faktor am Ausrollen des Algorithmus. Er habe aber inzwischen Investoren aus aller Welt, die in seine Technologie investieren wollen. Dies wäre nicht das erste Mal, dass eine von Hochreiter und seinem Team entwickelte Intelligenz bei US-Firmen laufen lernt: Bereits vor einigen Jahren wurde Spitzenforschung des Teams Hochreiter bei Amazon getestet. Zwei Milliarden mehr Umsatz brachte dies dem US-Konzern damals. Trotzdem schließt Prof. Sepp Hochreiter nicht aus, dass sein Sprachmodell in Österreich weiterentwickelt und zur Marktreife gebracht wird.
Dem Standort steht der KI-PIonier aber sehr skeptisch gegenüber: „Es ist eine Katastrophe hier! Seit sechs Jahren kritisiere ich, dass man als Forscher, aber auch als Unternehmerin und Unternehmer in Österreich nirgends andocken kann. Die Industrieunternehmen wissen nicht, was mit KI möglich ist, und die Forschenden wissen nicht, was die Industrie braucht.“
In seiner Keynote beim Deep Dive Meet Up des Industriemagazin konzentrierte sich Sepp Hochreiter auf verschiedene Einsatzmöglichkeiten von Künstlicher Intelligenz (KI) in der Industrie. Er betonte, dass KI in zahlreichen Schlüsselbereichen menschlicher Herausforderungen, wie Energie, Klimawandel, Lebensmittelproduktion, Medizin und Mobilität, eine unterstützende Rolle spielen wird.
Hochreiter präsentierte das zukünftige Bild des Energiesektors als Beispiel – ein kompliziertes, grenzüberschreitendes Netzwerk von Energieproduzent:innen und -konsument:innen, die ständig mittels KI miteinander interagieren und sich gegenseitig verbessern.
Laut des KI-Experten werde die zukünftige Energieproduktion sich kontinuierlich an aktuelle Situationen anpassen, Wetterbedingungen vorhersagen und autonom mit den Konsumentinnen und Konsumenten verhandeln, um eine optimale Verteilung im Netz sicherzustellen. Hochreiter kann sich vorstellen, dass ein vergleichbares System auch im Verkehrssektor eingesetzt wird, um den Verkehrsfluss zu regulieren und somit die CO2-Emissionen signifikant zu senken.
Die weltweite Nachfrage nach der Expertise aus Linz wurde durch ein weiteres Beispiel aus Hochreiters Keynote bestätigt. So nutzt die kanadische Regierung für die Simulation eines Kernfusionsreaktors Technologie, die an der JKU Linz entwickelt wurde. Auch in der Automobilbranche wird KI immer mehr eingebunden. Bei Audi zum Beispiel wird KI genutzt, um den Komfort im Innenraum zu maximieren.
Hochreiter beendete seine Keynote mit einer Bemerkung zu der Forderung einiger IT-Firmen nach einer Pause in der Forschung und Entwicklung von KI-Systemen. Er bemerkte: „Man muss nur betrachten, welche Firmen diese Forderung unterstützen. Es sind genau die Unternehmen, die bereits ein KI-System im Einsatz haben. Es erscheint nicht glaubwürdig, dass ausgerechnet jene, die bereits einen Vorteil besitzen, ein Moratorium verlangen. Das ist schlichtweg absurd!“
Sepp Hochreiter ist einer Regulierung der KI nicht abgeneigt, jedoch muss diese auf staatlicher Ebene erfolgen und darf nicht in die Hände der Unternehmen gelegt werden.
Ebenfalls von Interesse
Multimedia
Blog
Lesen Sie hier über Strategien, Einsatzmöglichkeiten und Technologien in der produzierenden Wirtschaft.
Videos
Wir bringen Expert*innen und Persönlichkeiten aus Wissenschaft, Forschung und Industrie gemeinsam an einen Tisch und diskutieren …