Startschuss für MIT-IBM Watson AI Lab: Verstärkung des Einflusses auf Lehrkräfte am Anfang ihrer Karriere | MIT-Nachrichten

Die ersten Jahre der Karriere von Fakultätsmitgliedern sind eine prägende und aufregende Zeit, in der es darum geht, eine solide Grundlage zu schaffen, die dabei hilft, den Verlauf des Studiums der Forscher zu bestimmen. Dazu gehört der Aufbau eines Forschungsteams, das innovative Ideen und Leitlinien, kreative Mitarbeiter und zuverlässige Ressourcen erfordert.

Für eine Gruppe von MIT-Fakultäten, die mit und an künstlicher Intelligenz arbeiten, hat die frühe Zusammenarbeit mit dem MIT-IBM Watson AI Lab durch Projekte eine wichtige Rolle dabei gespielt, ehrgeizige Forschungsrichtungen zu fördern und produktive Forschungsgruppen zu formen.

Dynamik aufbauen

„Das MIT-IBM Watson AI Lab war für meinen Erfolg enorm wichtig, insbesondere als ich anfing“, sagt Jacob Andreas – außerordentlicher Professor am Department of Electrical Engineering and Computer Science (EECS), Mitglied des MIT Computer Science and Artificial Intelligence Laboratory (CSAIL) und Forscher am MIT-IBM Watson AI Lab – der sich mit der Verarbeitung natürlicher Sprache (NLP) beschäftigt. Kurz nach seinem Eintritt beim MIT startete Andreas sein erstes großes Projekt im MIT-IBM Watson AI Lab und arbeitete an Sprachdarstellung und strukturierten Datenerweiterungsmethoden für ressourcenarme Sprachen. „Es war wirklich der Grund, warum ich mein Labor eröffnen und mit der Rekrutierung von Studenten beginnen konnte.“

Andreas weist darauf hin, dass dies in einem „entscheidenden Moment“ geschah, als das NLP-Gebiet erhebliche Veränderungen durchlief, um Sprachmodelle zu verstehen – eine Aufgabe, die deutlich mehr Rechenleistung erforderte, die über das MIT-IBM Watson AI Lab verfügbar war. „Ich habe das Gefühl, dass die Art der Arbeit, die wir im Rahmen dieses (ersten) Projekts und in Zusammenarbeit mit all unseren Leuten auf der IBM-Seite geleistet haben, sehr hilfreich war, um herauszufinden, wie wir diesen Übergang bewältigen können.“ Darüber hinaus war die Andreas-Gruppe dank der Computerressourcen und des Fachwissens innerhalb der MIT-IBM-Community in der Lage, mehrjährige Projekte zu Pre-Training, Reinforcement Learning und Kalibrierung für vertrauenswürdige Antworten durchzuführen.

Für mehrere andere Fakultätsmitglieder erwies sich die rechtzeitige Teilnahme am MIT-IBM Watson AI Lab ebenfalls als äußerst vorteilhaft. „Sowohl die intellektuelle Unterstützung als auch die Möglichkeit, einige der Rechenressourcen des MIT-IBM zu nutzen, war für mein Forschungsprogramm völlig transformativ und unglaublich wichtig“, sagt Yoon Kim – außerordentlicher Professor für EECS, CSAIL und Forscher am Watson AI Lab des MIT-IBM – der ebenfalls miterlebt hat, wie sich sein Forschungsgebiet verändert. Bevor er zum MIT kam, lernte Kim seine zukünftigen Mitarbeiter während einer Postdoktorandenstelle am MIT-IBM kennen, wo er sich mit der Entwicklung neurosymbolischer Modelle beschäftigte; Jetzt entwickelt Kims Team Methoden zur Verbesserung der Fähigkeiten und Effizienz großer Sprachmodelle (LLM).

Ein Faktor, der seiner Gruppe zum Erfolg verholfen hat, ist ein nahtloser Forschungsprozess mit intellektuellen Partnern. Dies hat es seinem MIT-IBM-Team ermöglicht, sich für ein Projekt zu bewerben, in großem Maßstab zu experimentieren, Engpässe zu identifizieren, Techniken zu validieren und bei Bedarf Anpassungen vorzunehmen, um modernste Methoden für eine mögliche Einbindung in reale Anwendungen zu entwickeln. „Das ist ein Anstoß für neue Ideen, und das ist meiner Meinung nach das Einzigartige an dieser Beziehung“, sagt Kim.

Kompetenzen bündeln

Das Wesen des MIT-IBM Watson AI Lab besteht darin, dass es nicht nur Forscher im KI-Bereich zusammenbringt, um die Forschung zu beschleunigen, sondern auch die Arbeit verschiedener Disziplinen miteinander verbindet. Der Laborforscher und außerordentliche MIT-Professor für EECS und CSAIL Justin Solomon beschreibt, dass seine Forschungsgruppe mit dem Labor aufgewachsen ist und die Zusammenarbeit „von Anfang an bis heute von entscheidender Bedeutung“ war. Solomons Forschungsteam konzentriert sich auf theoretisch orientierte, geometrische Probleme im Zusammenhang mit Computergrafik, Vision und maschinellem Lernen.

Solomon schreibt der MIT-IBM-Zusammenarbeit die Erweiterung seiner Fähigkeiten sowie die Anwendungsmöglichkeiten der Arbeit seiner Gruppe zu – eine Einschätzung, die auch die Laborforscher Chuchu Fan, außerordentlicher Professor für Luft- und Raumfahrt und Mitglied des Labors für Informations- und Entscheidungssysteme, und Faez Ahmed, außerordentlicher Professor für Maschinenbau, teilen. „Sie (IBM) sind in der Lage, einige dieser wirklich chaotischen Probleme aus der Technik in mathematische Assets zu übersetzen, an denen unser Team arbeiten kann, und den Kreis zu schließen“, sagt Solomon. Dazu gehört für Solomon die Zusammenführung unterschiedlicher KI-Modelle, die auf unterschiedlichen Datensätzen für unterschiedliche Aufgaben trainiert wurden. „Ich denke, das sind alles wirklich spannende Räume“, sagt er.

„Ich denke, dass diese frühen Karriereprojekte (mit dem MIT-IBM Watson AI Lab) meine eigene Forschungsagenda weitgehend geprägt haben“, sagt Fan, dessen Forschung sich mit Robotik, Steuerungstheorie und sicherheitskritischen Systemen befasst. Wie Kim, Solomon und Andreas begannen auch Fan und Ahmed im ersten Jahr, das ihnen am MIT möglich war, Projekte durch die Zusammenarbeit. Einschränkungen und Optimierung bestimmen die Probleme, mit denen sich Fan und Ahmed befassen, und erfordern daher fundierte Domänenkenntnisse außerhalb der KI.

Die Zusammenarbeit mit dem Watson AI Lab des MIT-IBM ermöglichte es Fans Gruppe, formale Methoden mit der Verarbeitung natürlicher Sprache zu kombinieren, was es dem Team ihrer Meinung nach ermöglichte, von der Entwicklung autoregressiver Aufgaben- und Bewegungsplanung für Roboter zur Entwicklung von LLM-basierten Agenten für Reiseplanung, Entscheidungsfindung und Überprüfung überzugehen. „Diese Arbeit war die erste Erkundung der Verwendung eines LLM, um jede freie natürliche Sprache in eine Spezifikation zu übersetzen, die ein Roboter verstehen und ausführen kann. Das ist etwas, worauf ich sehr stolz bin und das damals sehr schwierig war“, sagt Fan. Darüber hinaus konnte ihr Team durch gemeinsame Untersuchungen die LLM-Argumentation verbessern – eine Arbeit, die „ohne die Unterstützung von IBM unmöglich wäre“, sagt sie.

Durch das Labor ermöglichte die Zusammenarbeit von Faez Ahmed die Entwicklung maschineller Lernmethoden, um die Entdeckung und Konstruktion komplexer mechanischer Systeme zu beschleunigen. Ihre Linkages-Arbeit nutzt beispielsweise „generative Optimierung“, um technische Probleme auf eine Weise zu lösen, die sowohl datengesteuert als auch präzise ist; In jüngerer Zeit wenden sie multimodale Daten und LLMs auf computergestütztes Design an. Ahmed gibt an, dass KI häufig auf Probleme angewendet wird, die bereits lösbar sind, aber von einer höheren Geschwindigkeit oder Effizienz profitieren könnten; Allerdings sind Herausforderungen – wie mechanische Verbindungen, die als „fast unlösbar“ galten – jetzt in greifbare Nähe gerückt. „Ich denke, das ist definitiv das Markenzeichen (unseres MIT-IBM-Teams)“, sagt Ahmed und lobt die Leistungen seiner MIT-IBM-Gruppe, die von Akash Srivastava und Dan Gutfreund von IBM gemeinsam geleitet wird.

Was als anfängliche Zusammenarbeit jedes einzelnen MIT-Fakultätsmitglieds begann, hat sich zu einer dauerhaften intellektuellen Beziehung entwickelt, in der beide Parteien „von der Wissenschaft begeistert“ und „studentisch motiviert“ sind, fügt Ahmed hinzu. Zusammengenommen sprechen die Erfahrungen von Jacob Andreas, Yoon Kim, Justin Solomon, Chuchu Fan und Faez Ahmed für den Einfluss, den eine dauerhafte, praktische Beziehung zwischen Wissenschaft und Industrie auf die Gründung von Forschungsgruppen und ehrgeizige wissenschaftliche Forschungen haben kann.