Метод генерації опису програмного коду з використанням моделі штучного інтелекту

Анотація

Актуальність. Тема є актуальною, оскільки у даний час існує багато великих проектів, які розробляються протягом тривалого періоду часу та потребують підтримки та розуміння коду без пояснень. Швидкий розвиток технологій та необхідність постійної розробки нових функцій і підтримки вже існуючих потребує постійного оновлення документації. Написання хорошої документації є цінною навичкою, що потребує досвіду, концентрації та розуміння структури проекту. Як наслідок, велика кількість розробників вважають процес написання документації важким і думають, що час, витрачений на це, можна було б використати більш продуктивно. Саме тому є попит на сервіси, які допомогають автоматизувати цей процес.

Мета. Метою даної роботи є підвищення ефективності автоматизованої генерації програмної документації. У рамках виконання даного завдання було опрацьовано необхідний теоретичний матеріал, вивчено уже існуючі рішення даної проблеми та розроблено і реалізовано власний новий метод генерування опису програмного коду, який більш точно визначав призначення фрагментів коду, чітко розумів структуру та залежності між його складовими. 

Методи дослідження. Дослідження базується на аналізі літератури, статистичних методах, а також методах машинного навчання та інтелектуального аналізу даних. Зокрема було використано методи синтаксичного аналізу коду та побудови абстрактного синтаксичного дерева (AST), метод формування навчального корпусу, методи навчання та донавчання трансформерних та графових моделей. Для оцінки переваг донавченої моделі було застосовано метод порівняльного моделювання та автоматизованої оцінки якості тексту (у даному випадку BERTScore).

Результати. Донавчання моделі T5 на спеціалізованому наборі даних із прокоментованим кодом у поєднанні з лексичним аналізом дозволило підвищити якість генерації приблизно на 4% за метрикою F1 порівняно з базовою моделлю. Це свідчить про те, що адаптація моделі до конкретної доменної задачі є ефективною та здатною суттєво покращити результат.

Висновки. На основі зібраних даних було запропоновано власний підхід покращення якості генерації опису коду з використанням донавченої моделі T5 та створеної моделі GNN з подальшою реалізацією, що і є результатом досліження. Запропонована система поєднує кращі практики синтаксичного аналізу, графового моделювання і трансформерної генерації, забезпечуючи практично застосовне рішення для автоматичного створення документації. Можна стверджувати, що поєднання «seq2seq» моделей, методів токенізації та адаптації великих трансформерів, а також аналізу коду через GNN і структурні AST-представлення забезпечує комплексний підхід до автоматизації роботи з кодом, дозволяючи поєднувати локальні й глобальні контексти, швидко адаптувати модель під специфічні задачі та ефективно генерувати змістовні коментарі та документацію. Такий інтегрований підхід має потенціал для подальшого розвитку систем штучного інтелекту у сфері автоматичного аналізу коду, підвищення продуктивності розробників та забезпечення якості програмного забезпечення. Результати дослідження можуть бути застосовані на практиці для швидкого та ефективного створення документації до розроблюваного  програмного забезпечення та великих проектів мовою  Python.