KI-Forschung
Sepp-Hochreiter_Header

Sepp Hochreiter: „In der KI liegen Grundlagenforschung und Praxis sehr nahe beieinander!“

Der KI-Forscher Sepp Hochreiter hat einen weiteren bemerkenswerten Durchbruch erzielt. Ein Sprachmodell, das effizienter und schneller als ChatGPT und ähnliche Systeme arbeitet. Allerdings droht der mühsam in Österreich erarbeitete Forschungsvorsprung zu verpuffen.
Inhaltsverzeichnis: Sepp Hochreiter: „In der KI liegen Grundlagenforschung und Praxis sehr nahe beieinander!“

Ein Algorithmus, der das Potenzial besitzt, den gegenwärtig stark umworbenen ChatGPT aus dem Geschäft zu drängen. Laut Sepp Hochreiter, Direktor des Instituts für Maschinelles Lernen und des Linz Institute of Technology AI Lab, befindet sich dieser derzeit auf den Servern der Johannes Keppler Universität (JKU) in Linz.

Der in Deutschland geborene Wissenschaftler, der Forschung im Bereich des maschinellen Lernens seit über zehn Jahren in Österreich betreibt, legte mit seiner Arbeit zu Long short-Term Memory (LSTM) in den späten 1990er Jahren den Grundstein für die Entwicklung heutiger KI-Systeme.

Bis jetzt hält Sepp Hochreiter den Algorithmus jedoch zurück, hauptsächlich aufgrund fehlender Mittel für die nötige Rechenleistung zum Training der KI. Aber dies könnte sich laut in absehbarer Zeit ändern, wie Hochreiter beim zweiten Deep Dive Meet Up des Industriemagazin erklärte.

Enorme Rechenkapazitäten erforderlich

Doch zurück an den Anfang: Die Entwicklung des Algorithmus war mit einigen Schwierigkeiten verbunden. Vor allem mit einem Problem, das sehr viele Forschende in Österreich bemängeln: Für Grundlagenforschung fehlt oftmals das benötigte Kleingeld.

Dabei ist ebendiese nicht nur in Sachen KI unabdingbar, wie Prof. Sepp Hochreiter in einem Interview bestätigt: „Die Grundlagenforschung und die praktische Anwendung gehen Hand in Hand im Bereich der Künstlichen Intelligenz . Ein Paradebeispiel hierfür sind die sogenannten ‚self-normalized Networks‘, die wir in Linz entwickelt haben und die bereits drei Monate später bei Amazon implementiert wurden, was zu signifikanten Umsatzsteigerungen führte. Die Zeitspanne vom theoretischen Modell, das aus der Grundlagenforschung entsteht, bis hin zur praktischen Umsetzung kann in diesem Feld außerordentlich kurz sein.“

Hochreiter ergänzt: „Dies zeigt sich auch bei Open AI, wo die Forschenden wegen der Geschwindigkeit des Fortschritts kaum Zeit hatten, Entwicklerinnen und Entwickler ins Team zu holen. Ein weiteres markantes Merkmal dieses Bereichs ist, dass die neu entwickelten Werkzeuge sofort von großen Unternehmen übernommen werden. In Österreich ist man eher gewohnt, dass ein Produkt ausgiebig perfektioniert wird, bevor es auf den Markt kommt. Aber im KI-Bereich läuft es anders, wie die rasche Markteinführung von ChatGPT zeigt.“

Hochreiters jüngste Errungenschaft stützt sich auf sein LSTM-Prinzip aus den 1990er Jahren. Angesichts der zunehmenden Textlänge, mit der Programme wie ChatGPT zu tun haben, greift Sepp Hochreiter wieder auf das LSTM-Konzept zurück. Dieses wurde jedoch mit der Transformer-Technologie verknüpft, die derzeit in nahezu allen großen KI-Modellen zum Einsatz kommt. Das Resultat ist eine KI, die schneller ist und viel längere Sätze analysieren kann.

Doch: Die Ausbildung einer Künstlichen Intelligenz erfordert enorme Rechenkapazitäten und eine Menge Personal in Form von Softwareentwickler:innen – beides sei laut Hochreiter aufgrund des begrenzten Budgets in Österreich nicht realisierbar. Zum Beispiel werden in den Niederlanden zwei Milliarden Euro in die Forschung und Entwicklung von AI investiert. Die Universität Tübingen, wo Hochreiter Mitglied eines Gremiums ist, erhält jährlich rund 30 Millionen Euro für ihr KI-Zentrum.

Im Vergleich zu den Budgets anderer Länder für die KI-Forschung und -Entwicklung befinde sich Österreich, laut Hochreiter, auf einem Niveau mit Uganda und Mexiko.

Förderbedarf von rund 500 Millionen Euro

Für KI-Grundlangenforschung sieht Prof. Sepp Hochreiter einen Förderbedarf in Österreich von rund 500 Millionen Euro: „Ich habe mir die österreichischen Fördermaßnahmen noch einmal im Detail angeschaut und komme auf eine jährliche Fördersumme von etwa zwölf Millionen Euro, die wirklich für den Bereich KI vorgesehen sind – also sind wir von den angeblichen 150 Millionen Euro, die Staatssekretär Tursky genannt hat, weit entfernt. Das ärgert mich, weil ich sehe, was in Deutschland derzeit in diesem Bereich gemacht wird. Da gibt es KI-Zentren, die diesen Namen auch verdienen.“

Vor allem das Anlernen der KI benötigt viel Rechenleistung und sei laut Hochreiter der kostspieligste Faktor am Ausrollen des Algorithmus. Er habe aber inzwischen Investoren aus aller Welt, die in seine Technologie investieren wollen. Dies wäre nicht das erste Mal, dass eine von Hochreiter und seinem Team entwickelte Intelligenz bei US-Firmen laufen lernt: Bereits vor einigen Jahren wurde Spitzenforschung des Teams Hochreiter bei Amazon getestet. Zwei Milliarden mehr Umsatz brachte dies dem US-Konzern damals. Trotzdem schließt Prof. Sepp Hochreiter nicht aus, dass sein Sprachmodell in Österreich weiterentwickelt und zur Marktreife gebracht wird.

Dem Standort steht der KI-PIonier aber sehr skeptisch gegenüber: „Es ist eine Katastrophe hier! Seit sechs Jahren kritisiere ich, dass man als Forscher, aber auch als Unternehmerin und Unternehmer in Österreich nirgends andocken kann. Die Industrieunternehmen wissen nicht, was mit KI möglich ist, und die Forschenden wissen nicht, was die Industrie braucht.“

Sepp-Hochreiter_Sepp-Hochreiter.
Matthias Heschl

KI wird zentrale Rolle spielen

In seiner Keynote beim Deep Dive Meet Up des Industriemagazin konzentrierte sich Sepp Hochreiter auf verschiedene Einsatzmöglichkeiten von Künstlicher Intelligenz (KI) in der Industrie. Er betonte, dass KI in zahlreichen Schlüsselbereichen menschlicher Herausforderungen, wie Energie, Klimawandel, Lebensmittelproduktion, Medizin und Mobilität, eine unterstützende Rolle spielen wird.

Hochreiter präsentierte das zukünftige Bild des Energiesektors als Beispiel – ein kompliziertes, grenzüberschreitendes Netzwerk von Energieproduzent:innen und -konsument:innen, die ständig mittels KI miteinander interagieren und sich gegenseitig verbessern.

Laut des KI-Experten werde die zukünftige Energieproduktion sich kontinuierlich an aktuelle Situationen anpassen, Wetterbedingungen vorhersagen und autonom mit den Konsumentinnen und Konsumenten verhandeln, um eine optimale Verteilung im Netz sicherzustellen. Hochreiter kann sich vorstellen, dass ein vergleichbares System auch im Verkehrssektor eingesetzt wird, um den Verkehrsfluss zu regulieren und somit die CO2-Emissionen signifikant zu senken.

Hochreiters JKU-Technologie in Kanada

Die weltweite Nachfrage nach der Expertise aus Linz wurde durch ein weiteres Beispiel aus Hochreiters Keynote bestätigt. So nutzt die kanadische Regierung für die Simulation eines Kernfusionsreaktors Technologie, die an der JKU Linz entwickelt wurde. Auch in der Automobilbranche wird KI immer mehr eingebunden. Bei Audi zum Beispiel wird KI genutzt, um den Komfort im Innenraum zu maximieren.

Hochreiter beendete seine Keynote mit einer Bemerkung zu der Forderung einiger IT-Firmen nach einer Pause in der Forschung und Entwicklung von KI-Systemen. Er bemerkte: „Man muss nur betrachten, welche Firmen diese Forderung unterstützen. Es sind genau die Unternehmen, die bereits ein KI-System im Einsatz haben. Es erscheint nicht glaubwürdig, dass ausgerechnet jene, die bereits einen Vorteil besitzen, ein Moratorium verlangen. Das ist schlichtweg absurd!“

Sepp Hochreiter ist einer Regulierung der KI nicht abgeneigt, jedoch muss diese auf staatlicher Ebene erfolgen und darf nicht in die Hände der Unternehmen gelegt werden.

Ebenfalls von Interesse

KI in der Praxis
KI in der Praxis
Es ist wirtschaftliche Notwendigkeit und strategisches Ziel zugleich: KI soll der europäischen Industrie einen Wettbewerbsvorteil verschaffen. Und tatsächlich setzen immer mehr Unternehmen auf die Zukunftstechnologie. Beispiele für KI in der Praxis zeigen die Einsatzmöglichkeiten.
Video abspielen
KI Insights von Fraunhofer Austria
Willkommen zum dritten Teil unserer Serie “AI-Rap mit Eva Eggeling”! In diesem Video tauchen wir tief in die Welt der generativen KI ein und erfahren, wie kreative Algorithmen funktionieren.
KI-Test_Header
KI-Test von Alan Turing
In diesem ersten Teil unserer Serie ‘AI-Rap mit Eva Eggeling’ taucht Eva Eggeling, Center Leiterin für Data Driven Design bei Fraunhofer Austria und Leiterin des Innovationszentrums für Digitalisierung und Künstliche Intelligenz KI4Life, tief in das Thema des Turing-Tests ein.
Künstliche-Intelligenz-nutzen
So arbeitet KI
KI ist überall – doch wohin geht die Reise bei industriellen Anwendungen? Wir beleuchten, wie verschiedene Akteure – von globalen Technologieriesen bis hin zu kleinen Start-ups – künstliche Intelligenz nutzen, um Innovationen voranzutreiben und Arbeitsprozesse zu optimieren.
Video abspielen
Expert*Innen am Wort über KI
Klaus Paukovits, Leiter Business Development bei WEKA Industrie Medien, spricht beim AI Chat mit Sebastian Schlund, Center Leiter für nachhaltige Produktion und Logistik und mit Eva Eggeling, Center Leiterin für Data Driven Design, bei Fraunhofer Austria über Neuerungen rund um KI in der Industrie.
Regulation-KI_Header
KI-Verordnung
Mitte Juni 2023 hat sich das EU-Parlament auf ein System zur Regulation von KI festgelegt. Was genau in der KI-Verordnung steht, wie Unternehmen bei der Entwicklung und Nutzung von KI-Systemen betroffen sind, wer sie befürwortet und welche Kritikpunkte laut werden, lesen Sie hier.

Multimedia

Blog

Lesen Sie hier über Strategien, Einsatzmöglichkeiten und Technologien in der produzierenden Wirtschaft.

Videos

Wir bringen Expert*innen und Persönlichkeiten aus Wissenschaft, Forschung und Industrie gemeinsam an einen Tisch und diskutieren …

de_DEDeutsch
Powered by TranslatePress
WordPress Cookie Plugin by Real Cookie Banner