
딥시크 보안, 심각한 구멍...역할극 공격 83% 성공
·
보안뉴스
요약중국 개발 생성형 AI 딥시크가 탈옥 및 역할극 공격을 통해 악성코드, 사이버보안 관련 취약점 진단 결과로 JSON 기반 입력에 대해 취약점을 높은것으로 나타났다 개선방안1. 프롬프트 인젝션 방지 강화입력 검증 강화: JSON 및 기타 구조화된 입력값을 분석하여 악의적인 패턴을 탐지하는 필터링 시스템을 도입.프롬프트 난독화 기법 적용: 공격자가 의도적으로 입력한 특정 패턴을 무력화하는 난독화 기법 적용.컨텍스트 기반 필터링: 이전 대화 기록을 분석하여 악성 입력 시도를 감지하고 차단하는 기능 추가.2. 탈옥(Jailbreaking) 공격 대응 강화모델 훈련 시 안전성 강화: AI 모델 학습 시 민감한 정보를 포함한 데이터 응답을 제한하는 강화 학습 도입.출력 필터링 시스템 개선: 공격 성공률이 높..