"WHY IS THIS NEWS NEGATIVE?": AN ATTENTION-BASED VISUALIZATION TECHNIQUE FOR EXPLAINABLE SENTIMENT ANALYSIS. AN ANALYTICAL SURVEY AND CONCEPTUAL FRAMEWORK

Аңдатпа

. Трансформерлерге негізделген архитектуралардың кеңінен таралуы табиғи тілді өңдеу саласында жаңа дәуірдің басталуына ықпал етті, бұл ретте сентименттік талдау жүйелері бұрын-соңды болмаған жоғары дәлдікке қол жеткізді. Алайда мұндай жоғары өнімділік модельдердің ашықтығының елеулі деңгейде болмауымен қатар жүреді, соның нәтижесінде олар іс жүзінде түсіндірмесі қиын «қара жәшік» модельдеріне айналады. Интерпретацияланудың жеткіліксіздігі бұл модельдерді қаржылық талдау және мемлекеттік саясат сияқты шешімдердің негіздемесі шешімнің өзімен бірдей маңызды болып табылатын жоғары жауапкершілікті салаларда қолдануға елеулі кедергі келтіреді. Бұл мақалада аталған мәселенің жан-жақты талдауы жүргізіліп, түсіндірілетін сентименттік талдау жүйесінің тұжырымдамалық негізі ұсынылады. Біз модельдің жіктеу шешіміне әсер ететін мәтіндік белгілерді айқындайтын ақпараттық визуализацияларды қалыптастыру үшін трансформердің ішкі өзіндік назар аудару (self-attention) механизмін пайдалануды ұсынамыз. Мақалада осы әдістің теориялық негіздері қарастырылып, «Attention is not Explanation» («Назар аудару механизмі түсіндірме болып табылмайды») атты маңызды ғылыми пікірталас талданады, сондай-ақ болашақ зерттеулердің перспективалы бағыттары айқындалады. Мәтіннің сентименттік сипатын жіктеп қана қоймай, сонымен қатар өз болжамдарына қатысты ашық әрі түсінікті негіздеме ұсынуға бағытталған жүйенің архитектурасы берілген. Бұл тәсіл заманауи жасанды интеллект жүйелеріне деген сенімділікті және олардың есептілігі деңгейін арттыруға ықпал етеді.