Почему многие нейроночки названы именами из «Улицы Сезам»?

В послед­нее вре­мя ИИ часто исполь­зу­ют для гене­ра­ции осмыс­лен­ных тек­стов. Но мно­гие не заме­ча­ют, что ещё одна тен­ден­ция оста­лась прак­ти­че­ски неза­ме­чен­ной — поче­му эти ней­рон­ки назы­ва­ют в честь кукол из «Ули­цы Сезам»?

Смот­ри­те: ELMo, BERT, Grover, Big BIRD, Rosita, RoBERTa, KERMIT, ERNIE. Это про­грам­ми­сты так под­чёр­ки­ва­ют пре­ем­ствен­ность тех­но­ло­гий и ува­же­ние, кото­рое про­яв­ля­ют друг к дру­гу.

Всё нача­лось с язы­ко­вой ней­рон­ки ELMo, впер­вые опуб­ли­ко­ван­ной Инсти­ту­том Алле­на в октяб­ре 2017 года. ELMo это аббре­ви­а­ту­ра от «Embeddings from Language Models». В 2018 году появил­ся BERT — обнов­лён­ный поис­ко­вый алго­ритм от Google. Офи­ци­аль­ная рас­шиф­ров­ка аббре­ви­а­ту­ры — «Bidirectional Encoder Representations from Transformers». Поз­же в сво­ём бло­ге Google под­твер­ди­ли, что при созда­нии BERT исполь­зо­ва­ли опыт ELMo.

Ну и пошло-поехало:

ERNIE = Enhanced Representation through Knowledge Integration
KERMIT = Kontextuell Encoder Representations Made by Insertion Transformations
Big BIRD = Big Bidirectional Insertion Representations for Documents

Если вы коди­те свой ИИ, Cookie Monster пока сво­бо­ден.

Источ­ник: The Verge