Large Language Models (LLMs) sind Teil von drei großen wissenschaftlichen Durchbrüchen in nur 10 Jahren Deep Learning, das auf NLP angewendet wurde: Word Embeddings, Transformers with Attention und Prompt Tuning. LLMs zeigen bei allen Aufgaben eine überraschende Effektivität und wurden auch schon für Querschnittsaufgaben der Kreativwirtschaft wie der Generierung von Bildern, Codes oder Musik aus Textbeschreibungen verwendet. Sie scheinen Fähigkeiten aufzuweisen, die über die Aufgaben, für die sie trainiert wurden, hinausgehen. Diese Fähigkeiten werden mit größerer Skalierung sichtbar und sind ein noch zu untersuchendes Phänomen. LLMs rufen auch Bedenken hervor, verstärkt seit der Veröffentlichung von GPT-2, dem Rückruf von Galactica oder dem unerwarteten Erfolg von ChatGPT. Prof. Giuseppe Attardi (emeritierter Professor für Informatik an der Universität Pisa) wird in seinem Vortrag die Vorteile, Grenzen und die Entwicklung der LLMs genauer erörtern. Insbesondere wenn die Ressourcen, die für deren Aufbau nötig sind, weiter wachsen, könnte dies zu einer Diskriminierung von Gruppen von Forscher:innen führen, und es müssen Lösungen gefunden werden, um dies zu vermeiden.
Dienstag, 14.03.2023, 17:00 Uhr – 18:00 Uhr, Online-Event
Weitere Details unter: https://www.i-aida.org/events/large-language-models-are-all-you-need/.
Dies ist ein Event von I-AIDA – International Artificial Intelligence Doctoral Academy.