김동선 연구실

본 논문은 AI 제어 시스템의 안전성 검증을 위한 Synthify 프레임워크를 제안합니다. 선형 제어기 프록시 프로그램 합성과 ε-greedy 전략을 통해 두 단계로 위반 사항을 탐지하며, PSY-TaLiRo 대비 83.5% 높은 성공률과 12.8배 빠른 속도를 달성합니다.

본 연구는 코드 리뷰와 이름 변경을 매칭하여 ReName4J 벤치마크를 구축하고, 메서드 이름 일관성 검출 및 추천 기술의 성능을 평가합니다. 기존 기술들이 리뷰 기반 벤치마크에서 일관성 검출과 추천 모두에서 낮은 성능을 보이며, 평가 방식의 잠재적 편향을 식별합니다.

본 논문은 코드 모델의 멤버십 정보 유출 위험을 조사합니다. 저자들은 모델 입력, 출력, 정답을 고려하는 Gotcha 공격 방법을 제시하며, Java 데이터셋에서 진양성률 0.95, 거짓양성률 0.10의 높은 성능을 달성합니다. 연구 결과 코드 모델의 멤버십 유출 위험이 상당히 높으며, 디코딩 전략 수정을 통해 위험을 감소시킬 수 있음을 보여줍니다.

본 연구는 코드 생성 모델 훈련에 사용되는 데이터셋의 품질 속성과 처리 전략을 종합적으로 조사합니다. 메타데이터, 통계, 데이터 품질 문제, 의도와 코드 간의 의미적 상관관계를 분석하여 모델 성능에 영향을 미치는 데이터셋 특성을 파악합니다. 연구 결과 데이터셋 설계 선택과 의도-코드 간의 의미적 상관관계가 코드 생성 모델의 성능에 유의미한 영향을 미치는 것으로 나타났습니다.

대규모 코드 데이터셋과 고급 아키텍처를 활용한 코드 모델이 소프트웨어 엔지니어링 작업을 자동화하고 있습니다. 그러나 이러한 모델들이 학습 데이터에서 코드를 그대로 암기하여 생성함으로써 취약점, 민감한 정보, 라이선스 제한 코드 등을 포함한 보안 및 개인정보 문제를 야기합니다.