АДАПТИВНЫЙ МАРШРУТИЗАТОР ВЫВОДА С УЧЕТОМ КЛЮЧЕВЫХ ПОКАЗАТЕЛЕЙ ЭФФЕКТИВНОСТИ ДЛЯ МОДЕЛЕЙ ЕСТЕСТВЕННОГО ЯЗЫКА

Аңдатпа

Мақалада мәтіндерді көпкласты жіктеу міндетіне арналған, болжам сенімділігінің деңгейіне қарай жеңіл, орташа және күрделі модельдерді ретімен қолданатын KPI-ге бағдарланған каскадты маршрутизатор ұсынылған. Зерттеудің өзектілігі қолданбалы табиғи тілді өңдеу (NLP) жүйелерінде жіктеу дәлдігі мен есептеу шығындарын өзара үйлесімді басқару қажеттілігімен айқындалады. Мұндай жүйелерде тек ең дәл модельдерді пайдалану жауап беру уақыты мен инференс құны тұрғысынан көбіне тиімсіз болып табылады. Эксперименттер құрамында 11 967 ғылыми мәтін бар WOS-11967 корпусында жүргізілді. Параметрлерді дұрыс баптау және тәуелсіз бағалау үшін VAL және FINAL ішкі жиындары бөлек пайдаланылатын екі кезеңді хаттама қолданылды. Жеңіл, орташа және күрделі модельдер мәтінді ұсыну тәсілі мен есептеу күрделілігі бойынша ерекшеленеді, ал олардың арасындағы маршруттау сенімділік шектеріне негізделеді. Жеңіл және орташа модельдер үшін сенімділік шешім функциясының ең жоғары екі мәнінің айырмасы ретінде анықталды. Шекті мәндер бюджет шектеуін ескере отырып, α параметрі арқылы VAL жиынында таңдалды. Алынған нәтижелер ұсынылған каскадтың күрделі модельмен салыстырғанда инференсті жеделдетуге мүмкіндік беретінін және дәлдіктің қалыпты төмендеуі жағдайында сапа мен есептеу құны арасындағы басқарылатын тепе-теңдікті сақтайтынын көрсетеді. Зерттеудің практикалық маңыздылығы ұсынылған тәсілді дәлдік, жылдамдық және ресурстық шектеулер арасындағы теңгерім маңызды болып табылатын жүйелерде қолдану мүмкіндігімен байланысты.