인공지능을 위한 투자들이 공격적으로 행해지고 있다. 하지만 인공지능을 제대로 활용하기 위해서는 내부적인 변화도 필요한데, 이 부분에서의 수행은 잘 눈에 띄지 않는다.

[보안뉴스= 메리 셰클릿 Transworld Data 회장] 앞으로 수년 동안은 지금보다 더 많은 인공지능 기술들이 기업 내 업무 환경 안으로 들어올 것이 거의 확실시 되고 있다. 인공지능이 기술이 도입된다는 건 우리의 일상적인 업무 과정에 큰 변화가 생길 거라는 뜻이 된다. 그러므로 IT 담당자들은 워크플로우와 관련된 IT 인프라를 변경하고, 그에 따른 새로운 스킬들을 습득해야 할 것으로 보인다. 인공지능이 지금의 인터넷처럼 편만한 기술이 되기 전까지 남은 시간은 바로 이런 변화를 받아들이고 준비하는 기간이 되어야 할 것이다.


그렇다면 어떤 스킬들이나 워크플로우가 필요한 걸까? 미래의 일이라 100% 정확한 예측이야 불가능하겠지만 지금 예상 가능한 것들은 다음과 같다.
1) 애플리케이션들의 끊임없는 개발과 실험, 구축
2) 데이터 무결성과 데이터 점검
3) 인공지능 관련 규정들에 대한 이해와 정의
4) 윤리적 차원에서의 보호 장치의 이해와 정의
5) 최종 사용자와의 파트너십
6) 인공지능 유지를 위한 전략

이미 빠르게 움직이기 시작한 기업들은 이러한 분위기를 파악해 미리 준비 중에 있다. 하지만 여기까지 생각하지 못한 기업이나 조직들이 훨씬 많은 것으로 알려져 있으며, 그렇기 때문에 각 조직의 IT 담당자와 팀들이 인공지능을 위한 준비 작업에 착수하지 못하고 있다는 문제도 존재한다. 어디서부터 어떻게 시작해야 할까? 그 답은 현재 인공지능을 바라보는 우리들의 시선에서부터 찾아야 한다.

인공지능에 대한 우리의 시선, 현재 어떻게 형성되어 있는가
2023년 칩 생산 업체 AMD는 전 세계의 IT 부문 결정권자 2500명을 인터뷰하며 인공지능에 대한 그들의 의견을 물었던 적이 있다. 응답자의 절반이 “인공지능 도입과 구축을 위한 준비를 완료했다”고 답했다. 하지만 나머지 절반은 “인공지능을 도입하기 위한 IT 기술과 환경의 성숙도가 충분치 않은 것 같다”고 답했다.

IT 분야가 아닌 다른 분야의 C레벨 임원진들 중 절반도 인공지능과 관련된 IT 인프라와 환경의 준비도에 대해 의구심을 표현했다. 주력 일간지 CNN이 올해 조사한 바에 따르면 42%의 CEO들이 “인공지능이 언젠가 인류에 커다란 해악을 가져올 수 있다”고 믿고 있다고 한다. 그것도 5~10년 안에.

그러니 지금 인공지능과 관련된 기업들의 심경은 뒤죽박죽이라고 말해도 무방하다. 인공지능이라는 강력한 신기술을 빠르게 도입해 회사의 경쟁력을 키우고 싶기도 하지만, 또 다른 한 편으로는 인공지능을 가질 준비가 되어 있지 않다고 보고 있으며, 심지어 두려워하고 있기까지 하니 말이다. 그리고 이 모든 걸 꿰뚫는 단 하나의 진리는, “아직 인공지능과 함께하는 미래를 아무도 예측하지 못한다”는 것이다. IT 담당자들은 이런 사용자들의 심리(기대, 두려움, 공포, 막연함의 혼재)를 바탕으로 인공지능을 받아들일 준비 작업에 착수해야 한다.

어디서부터 시작해야 할까
처음 인공지능의 도입이 고려되던 분야는 IT였다. 인공지능은 IT 분야에서부터 나온 기술이니 IT 분야의 일들을 더 잘 처리할 것 같았다. 실제로 보안 관리라든가, 워크플로우 모니터링, 자동화 자원 배분 등과 같은 임무들에 인공지능이 배치되고 있기도 하다.

문제는 이러한 분야들은 이미 꽤나 성숙해 있다는 것으로, 인공지능을 도입했을 때 뭔가 잘못되더라도 크게 엇나갈 일이 없다는 것이다. 즉, 신기술이 구축되어도 변수가 발생할 확률이 낮으며, 발생하더라도 신속하고 정확하게 처리될 수 있다. 인공지능을 활용하기에 좋은 분야일 수 있으나 반대로 인공지능 때문에 일이 처리되는 건지, 분야 자체가 성숙해서 그런 건지 판단하기가 어려울 수 있다. 또한 인공지능이 내포하는 리스크를 알아내기가 불가능하다.

예를 들어 인공지능을 기반으로 한 애플리케이션이 오류 가득한 결과를 내기 시작하거나 운영이 불가능할 정도의 기현상을 일으킨다면 누구의 책임일까? 인공지능 애플리케이션이 잘못 만들어진 것일까, 아니면 훈련자가 뭔가 잘못한 것일까? 애초에 인공지능 애플리케이션이 충분한 학습을 거쳤다는 걸 누가 어떤 기준으로 결정할 수 있는 걸까? 그 인공지능 애플리케이션이 현장에서 사용될 때 계속해서 규정과 정책, 윤리 가이드라인을 잘 지키고 있는지 어떻게 보장할 수 있을까? 누가 이 부분을 담당해야 할까? 이 외에도 수많은 질문들이 우리를 기다리고 있다. 인프라를 변화시켜야 할 IT 담당자들이 고민해야 할 질문들이다. 시작점은 바로 여기다.

인공지능을 준비하려는 IT 담당자가 알아야 할 4가지
인공지능 도입과 구축을 준비 중이며, 위와 같은 고민에 돌입한 IT 담당자들이라면 반드시 알아야 할 것들이 있다. 아니, 아는 것에서 그치는 것이 아니라 해결에까지 이르러야 한다. 이는 다음의 키워드 네 개로 요약이 가능하다.

1) 개발
2) 구축
3) 거버넌스
4) 지원
이 네 가지를 차례로 다뤄보고자 한다.

먼저 인공지능 개발이다. 애자일(Agile)과 마찬가지로 인공지능 기반 개발 방법론의 기본은 “반복적이고 끊임없는 생산”이다. 하지만 애자일 프로젝트들이 건마다 끝이 나는 것과 달리 인공지능 프로젝트들은 영원히 끝나지 않는다. 왜일까? 인공지능 기술의 환경이 되는 기업의 상황과 조건, 사업상 우선순위, 보유 정보가 계속해서 바뀌기 때문이다. 그렇기 때문에 이런 모든 것들을 종합하여 힘을 발휘해야 하는 인공지능은 개발이라는 측면에서 끝날 수가 없다.

인공지능 기술이 적용되어야 할 곳을 찾았다면, 그에 맞는 인공지능 모델을 설계해야 하고, 설계된 모델을 여러 가지 상황에서 실험해야 한다. 모든 상황에서 인공지능이 정확한 결과를 내도록 해야 하는데, 정확한 결과의 표준은 무엇일까? 인간 전문가의 결론과 95% 이상 일치하면 보통 ‘정확하다’고 말하는 게 현 시점의 ‘황금 표준’이다. 하지만 이건 사용 방법이나 사용처 등 각종 상황에 따라 달라질 수 있다. IT 팀은 이 ‘정확도의 기준’을 정의하는 것을 담당해야 한다.

그 다음은 인공지능의 구축이다. 달성하고자 하는 정확도가 정의되었다면 인공지능 모델들이 그러한 성적을 낼 수 있도록 각종 데이터를 주입하고 훈련시켜야 한다. 그래서 각종 실험을 통과했다면 그 인공지능을 실제 업무 환경에 구축해야 하는데, 이게 그리 간단한 일은 아니다. 기존 애플리케이션 내에 인공지능을 구축하는 거라면 여러 시스템에 영향을 주기 때문에 생각할 것이 많아지고, 그래서 구축은 더욱 복잡한 일이 된다.

예를 들어 인공지능 엔진을 대출 심사 도구로서 활용한다고 했을 때 개발자와 IT 인프라 담당자가 알아야 할 것은 한두 가지가 아니다. 대출 상품의 모든 유형을 꿰뚫고 있어야 하고, 각 상품이 어떠한 기준으로 심사되는지, 심사로부터 대출에 이르는 과정은 어떠한지를 이해하고 있어야 한다. 필요하다면 심사의 여러 과정에 있어서 워크플로우를 바꿔야 할 수도 있다.

구축까지 진행했다면 인공지능의 거버넌스를 고민해야 할 차례다. 한 마디로 인공지능과 관련된 보안, 유지, 관리, 활용에 관한 기준과 규정을 정하는 건데, 당연하지만 각 조직의 상황에 맞게 내부에서부터 정해야 한다. 인공지능은 어마어마한 데이터를 소비하는 기술이고, 심지어 자동으로 데이터를 찾아 학습하기도 하기 때문에 언제든지 정해진 규정에서 엇나갈 수 있음을 늘 염두에 두고 있어야 한다.

또 하나 염두에 두어야 하는 건 규정이나 법, 표준은 항상 IT 기술의 발전보다 늦다는 것이다. 그러니 거버넌스를 지나치게 강조하다가는 IT 기술의 잠재력을 미처 다 이끌어내거나 활용하지 못하게 된다. 거버넌스 작업을 할 때에 외부의 법과 표준을 어기지 않도록 하는 것도 중요하지만, 기술을 최대한 활용할 수 있도록 여건을 마련하는 것도 그에 못지 않게 중요하다.

거버넌스의 또 다른 어려움은 모든 사람이 관여되어야 한다는 것이다. 인공지능 기술이라고 하는 건 결국 모든 사람이 사용하도록 개발하고 구축해야 하는데, 그렇기 때문에 규정을 아무리 잘 정해도 언제 어디서 누가 뭘 어기게 될지 모른다. 그러니 사용자들을 대상으로 한 인공지능의 규정 및 윤리, 표준에 관한 교육과 훈련을 주기적으로 실시하는 게 중요하다.

인공지능 지원이라고 한다면 보통 IT 팀에서 전적으로 담당하게 될 텐데, 여기에는 여러 가지 형태가 있을 수 있다. 사업적 활동을 이어감에 있어서 인공지능 애플리케이션을 추천하고 구축하는 일과, 각종 인공지능 모델들을 수정하고 고치는 일, 보다 정확한 결과를 내도록 미세 조정하는 일들이 있을 수 있다. 인공지능 모델이 내는 결과가 너무나 심각하게 잘못되었다고 판단될 경우 사용을 즉각 중단하고 대체할 앱을 새롭게 찾아주는 것도 지원에 포함된다.

글 : 메리 셰클릿(Mary E. Shacklett), 회장, Transworld Data
[국제부 문정후 기자(globoan@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>