 |
| 경계현 삼성전자 DS(반도체)부문장(사장)이 온라인 개회사를 전하고 있다.(사진=젼화평 기자) |
“생성형 AI 기술이 인류가 직면한 다양한 문제를 해결할 수 있는 혁신적인 수단으로 급부상하고 있다. 다만 개인정보 침해 등 안정성에 대한 부분은 더 깊은 연구의 필요성이 제기된다.”
7일 수원컨벤션센터에서 진행된 ‘삼성 AI 포럼’에서 경계현 삼성전자 DS(반도체)부문장(사장)은 개회사를 통해 “삼성 AI 포럼이 안전과 신뢰 등 문제를 극복하기 위한 촉매제가 될 것” 이라면서도 각종 부작용에 대한 우려를 드러냈다. 삼성 AI 포럼은 AI와 컴퓨터 공학(CE) 분야의 세계적인 석학과 전문가들이 모여 최신 연구 동향을 공유하고 미래 혁신 전략을 모색하는 자리다. 올해로 7회째다.
이 자리에서 AI 분야의 세계적인 권위자 요슈아 벤지오 몬트리올대 교수는 ‘안전한 AI 연구자 시스템을 향해’라는 주제로 온라인 기조 강연에 나섰다. 그는 올바른 AI 제도에 관한 청중의 질문에 대해 “제약 업계에서는 신약을 개발하면 정부에 보고를 한다. 의약품 자체가 안전하다는 과학적 증빙이 필요한 것”이라며 “AI(인공지능)도 의약품처럼 똑같이 (안전을) 증명해야 한다”고 답해 정부 차원의 엄격한 통제의 필요성을 역설했다.
벤자민 교수는 AI 시스템 오용에 대해서도 우려했다. LLM(대규모 언어 모델)을 기반으로 AI 기술이 발전하면서 연구자들의 의도와 일치하지 않을 수 있다는 것이다. 이를 “불일치”라고 표현하며 위험성을 경고했다.
그는 “불행하게도 현재 AI 기술은 ‘우리의 의도에 따라 작동하는 AI 시스템을 어떻게 설계할 것인가’라는 질문에 답을 알지 못한다”면서 “확실하지 않은 행동을 할 때 어떤 경우에는 우리(인간)에게 위험할 수 있다”고 우려했다.
그러면서 “컴퓨터가 갈수록 강력해는 와중에 잘못된 방향으로 사용될 수 있는 요소”라며 “사회적 구조가 AI를 사용하기에 준비돼있지 않다”고 덧붙였다.
벤자민 교수는 이에 대한 해결책으로 안전한 AI 기계학습 알고리즘을 제시했다. 더 많은 사실에 입각한 정보를 내놓을 수 있을 때까지 훈련시켜 올바른 대답을 내놓을 확률을 올리는 방법이다.
 |
| 짐 켈러 텐스토렌트 CEO가 연설하고 있다.(사진=전화평 기자) |
짐 켈러 텐스토렌트 최고경영자(CEO)는 ‘자신만의 실리콘을 소유하라’는 주제로 오픈 소스에 중요성을 강조했다. 짐 켈러는 애플의 A칩, AMD의 중앙처리장치(CPU) 라이젠을 설계한 기술자로 반도체의 전설로 불린다.
켈러 CEO는 “지난 20~30년간 오픈소스는 소프트웨어(SW)에서 주요한 개발 동력이었다”며 “모든 사람들이 오픈소스를 이용하며 훌륭한 AI 모델들이 개발되고 있다”고 말했다.
텐스토렌트는 오픈소스 IP(설계 자산) RISC-v(리스크파이브)를 통해 반도체를 만드는 기업이다. 공개된 설계 도면을 이용하는 만큼 생산 단가나 유지 비용을 적게 소모한다.
켈러 CEO가 오픈소스를 강조하는 이유는 효율성 때문이다. 개발 시간 및 비용을 줄일 수 있다는 것이다. 또 대학생 등 예비 기술자들이 하드웨어를 개발할 수 있도록 도와 혁신을 도모했다는 점에 대해서도 언급했다.
그는 “기술은 오픈돼야 한다. 규제를 하고 있는 이들은 대중에게 좋은 일을 하고 있지 않다고 생각한다”며 “기술을 오픈하면 혁명을 일으킬 수 있다”고 기술 개방의 중요성을 강조했다.
전화평 기자 peace201@viva100.com
