ChatGPT에 대한 장점과 단점, 그리고 부작용.

ChatGPT에 대한 장점과 단점, 그리고 부작용.

ChatGPT에 대한 평가 장점 - 생산성 향상

∙ ChatGPT를 비롯한 초거대 인공지능 서비스들은 비즈니스 과정에서 생산성을 향상시키고, 의료, 
법률, 미디어 등 다양한 산업 분야에 활용되어 큰 영향을 줄 수 있음

기술적 한계 - 개선의 여지 다수 존재

∙ 거짓 답변을 사실처럼 대답*하거나, 최신 정보에 대한 내용은 답변하지 못하는 등 다양한 한계점 존재
* 할루시네이션(hallucination) 이슈 : AI가 존재하지 않는 환각을 보는 것처럼 없는 답변 혹은 틀린 답변을 제시

또한, 서비스적인 측면에서 지속적인 수익 창출을 위한 구체적인 수익 모델 마련 필요

부정적 평가 – 활용에 따른 다양한 부작용 발생

∙ 잘못된 정보가 생산되거나 무분별한 활용이 발생할 수 있고, 악의적인 목적을 가진 사람이 사이버 
공격 및 범죄 등에 활용될 수 있음
- 美 비영리단체 ‘생명의 미래연구소’는 인류에 대한 위험성을 이유로 GPT-4 이상의 첨단 AI 개발을 일시 
중단할 것을 촉구(’23.3.)

보안 이슈 동향

 

OpenAI
∙ ChatGPT가 안전하고 책임감있게 활용되기 위해 사용정책을 마련하여 해당 서비스의 활용을 
허용하지 않는 용도를 제시하고, 위반 시 활용의 일시 중지 및 정지 조치까지 취할 수 있음을 명시
- 불법 행위, 아동 성적 학대 또는 착취 컨텐츠, 폭력, 악성코드 생성, 신체적 위험이 높은 활동(무기 개발, 
군사, 자살･자해 등), 경제적 피해의 위험이 높은 활동(다단계 판매, 도박, 대출 등), 사기, 성인 콘텐츠, 정치, 
개인정보 침해, 법률･재정･의료 관련 조언 제공 행위, 고위험 정부 의사 결정(법 집행, 이민･망명 등) 
※ OpenAI – Usage policies, openai.com/policies/usage-policies.
※ OpenAI의 개인정보 정책, API 데이터 사용 정책, 학습데이터 활용 여부 등은 본 보고서 22페이지를 참고
∙ OpenAI의 최고기술책임자(CTO) 미스 무라티는 ‘AI 도구 들이 오용되거나 나쁜 행위자들에 의해 
사용될 수 있다’고 우려하며, AI 악용 가능성을 경고하고 정부의 규제가 필요함을 강조
※ The Creator of ChatGPT Thinks AI Should Be Regulated, TIME, ’23.2.

 

체크포인트(Checkpoint)
∙ 해킹 커뮤니티에서 ChatGPT를 활용해 악성도구를 개발하는 사례가 있음을 확인하였고, 공격자가 
AI 기반 도구를 활용하여 빠른 시일 내에 공격 도구를 개선할 것으로 전망
- 유명한 지하 해킹 포럼에서 어떤 사이버 범죄자가 ChatGPT를 활용하여 정보 탈취를 위한 악성코드 실험하 
고 있으며, ChatGPT를 악의적인 목적으로 활용하는 사례를 확인
- 또한, 다른 사이버 범죄자는 ChatGPT를 통해 암호화 작업을 수행하는 파이썬 스크립트를 얻었으며, 이는 
랜섬웨어로 얼마든지 악용될 수 있음
※ Cybercriminals starting to use ChatGPT, Check Point Research, ’23.1.

- ‘대필논란’ 불거진 ChatGPT…피싱 메일 등 범죄 악용 시도도, 국민일보, ’23.2.16. 
- ‘ChatGPT’ 개발사 CEO “미래 AI는 인류에 위협이 될 수도”, 한국경제, ’23.2.20.