[알파경제=강명주 기자] 한국 기업들이 대규모 언어모델(LLM) 기반 인공지능(AI) 비즈니스 라이선스 도입에서 글로벌 순위를 앞당기고 있다. 하지만, AI형 SKT사태에서 안전하다고 단정할 수 있을까.

7일 토스가 ChatGPT 유료 계정인 '엔터프라이즈 플랜 라이선스'(Enterprise Plan License)를 공식 도입했다고 밝혔다. 

 

사내 구성원들이 챗 GPT 유료 계정을 즉시 사용할 수 있게 된 것이다.

한국은 금융, IT, 제조, 미디어, 유통 등 전 산업에서 ChatGPT 엔터프라이즈 플랜과 업스테이지, 코난테크놀로지 등 자체 LLM 상용 라이선스 도입이 폭발적으로 늘고 있다.

특히 국내에서는 사내 문서 자동화, 고객 응대, 번역, 상품 기획, 코드 리뷰 등 실제 업무 현장에 LLM이 빠르게 스며들고 있다. 

 

네이버, 카카오, KT, LG 등 대기업은 물론, 토스 등 금융, 중견·중소기업, 공공기관까지 조직 전환에 속도를 내고 있어 오픈 AI는 도쿄와 싱가폴, 한국에 아시아 거점 사무소를 세우거나 세울 예정에 있다.  

 

◇ “AI 혁신, 한국이 선도…하지만 부정적 사용 우려도 커져”

하지만, 혁신의 이면에는 우려의 목소리도 커지고 있다.

LLM 비즈니스 라이선스 확산과 함께 ▲민감 정보 유출 ▲데이터 통제의 어려움 ▲AI 오남용 ▲법적·윤리적 책임 불분명 등 부정적 사용 리스크가 현실화되고 있기 때문이다.

실제로 사내 기밀, 고객 개인정보, 소스코드 등이 LLM 입력창에 실수로 입력돼 외부 서버로 전송되는 사례가 잇따르고 있다. 

 

일부 글로벌 LLM 서비스의 경우, 입력 데이터가 AI 모델 학습에 활용될 수 있어 데이터 주권 침해 우려도 제기된다.

AI가 자동으로 생성한 결과물에 대한 저작권, 개인정보보호, 윤리적 책임 소재 역시 불투명하다. 

 

허위 정보 생성, 부적절한 업무 자동화, 편향된 결과 도출 등 오남용 사례도 보고되고 있다.

해당 우려는 어떻게 대비되고 있을까. 이날 합류한 토스는 “▲소스코드 ▲인프라 정보 ▲고객 개인정보 ▲API 키 등 주요 민감 정보의 입력을 금지했다"면서 "입력이 감지될 경우 실시간으로 자동 탐지돼 관련 팀원에게 즉시 사유 확인 절차가 진행되는 전문 프로그램을 도입했다"고 밝혔다. 이어 "위반 사항이 생기면 내규에 따른 처벌이 있을 것”이라고 덧붙였다. 

 

◇ “보안·윤리 대책, 글로벌 기준 강화는 필수”

이번 SKT 사태에서도 보듯, 기업의 보안은 소비자 피해 뿐 아니라 기업 스스로에게 부메랑으로 다가오는 큰 리스크이다. 

 

이 같은 우려에 대응해, 입력 데이터의 AI 학습 미활용(옵트아웃), 세밀한 권한 관리, 실시간 모니터링, 자동 탐지 등 다층적 보안 기능을 서비스들이 탑재되고 있다.

국내외 주요 기업들은 ▲민감 정보 입력 금지 정책 ▲AI 사용 가이드라인 마련 ▲보안 교육 및 내부 감시 체계 강화 ▲망분리 등 기술적 통제 등 다양한 대응책을 병행 중이다.
 

EU AI 법안, 미국·일본의 AI 가이드라인 등 글로벌 규제도 한층 강화하는 노력을 기울이고 있다. 

 

[ⓒ 알파경제. 무단전재-재배포 금지]