(SK쉴더스)인공지능(AI)의 사이버 위협

미국 오픈 AI의 인공지능(AI) 챗봇 '챗GPT'의 등장으로 생성형 AI가 주목받고 있습니다. 하지만 이로 인해 기업들이 해킹을 당할 우려도 커지고 있습니다. 해커들이 AI 모델과 서비스를 대상으로 공격을 감행하고 있기 때문입니다.

인공지능(AI)과 사이버 위협

SK그룹의 물리 정보보안 전문 계열사인 SK쉴더스에 따르면 AI 모델과 서비스에 대한 사이버 위협이 증가하고 있습니다. AI의 품질은 학습 데이터에 따라 좌우되며, 양질의 데이터를 기반으로 학습하는 것이 똑똑한 AI를 탄생시키는 핵심입니다. 기업들은 이러한 AI를 기반으로 다양한 서비스를 제작해 판매하며 매출을 증대시킬 수 있습니다.

반응형

하지만 해커들은 이러한 AI의 핵심인 데이터를 주로 공격 대상으로 삼고 있습니다. 데이터를 조작해 AI가 잘못된 데이터를 학습하도록 유도하여, AI가 질문에 대해 틀린 답을 내놓도록 만드는 방법을 사용합니다. 예를 들어, 펭귄 이미지가 학습용 데이터로 제공되었다면 해커는 펭귄 이미지에 의미 없는 다른 이미지를 추가하여 AI를 혼란시킵니다.
또한 해커들은 악의적으로 잘못된 텍스트 데이터를 추가하는 방식으로 AI를 공격합니다. 이로 인해 학습된 AI는 틀린 정보를 제공하게 됩니다.
AI 기반의 서비스를 대상으로 한 공격도 이어지고 있습니다. 공개된 AI 챗봇을 활용해 악성 코드를 개발하거나 음성합성 모델을 이용해 피싱(phishing)에 활용하는 방법도 있습니다. 이러한 피싱은 믿을 만한 사람이나 기업으로 가장해 비밀 정보를 획득하는 수법을 말합니다.
이러한 공격 방식들은 오픈 AI(챗GPT)와 구글(바드)을 비롯한 국내외 IT 기업들을 타깃으로 하고 있습니다. 이에 대응하여 SK쉴더스는 AI 서비스와 관련된 데이터가 저장되는 인프라의 보안 점검을 주기적으로 실시하고, 신뢰 가능한 출처의 플러그인과 라이브러리를 이용할 것을 강조합니다. 또한 AI 전담 조직을 운영하고 직원들이 기업 내부 정보를 AI에 입력하지 않도록 인식을 제고하는 교육도 필요하다고 제안하고 있습니다. 이로써 생성형 AI를 대상으로 하는 사이버 공격으로 인해 발전이 중단되는 사례들을 방지하고 경쟁사들을 위협하는 악의적인 목적들을 극복하려는 노력이 진행되고 있습니다.

인공지능 플랫폼 (AI Platforms)-AI-개발속도-산업분야