정책/과학교육
美 국방부, AI에 기본적인 상식을 가르친다
그 흔한 김씨
2019. 12. 11. 10:25
콜라보AI/로봇
2018.10.24. 13:42
인공지능(AI)은 점점 더 똑똑해지고 있다. 하지만 AI가 인간 사회에 나와 인간의 일을 대신하고 일상생활 속에서 사회 구성원으로서 활약하기에는 아직 부족한 점이 있다. 바로 상식이다.
미 국방부의 방위고등연구계획국(DARPA, Defense Advanced Research Projects Agency) 또한 이 문제에 주목하고 있다. 그래서 이들은 AI에 기본적인 상식을 가르치기 위해 앨런 AI 연구소(AI2, Allen Institute for Artificial Intelligence)와 협력했다.
기계의 상식
오늘날 머신러닝 시스템은 복잡한 작업을 자동화하고 사람이 중요한 작업을 쉽게 수행할 수 있도록 돕는다. 그러나 AI에서 가장 부족한 점은 실용적인 판단력이 부족하다는 것이다. 또 가장 기본적인 요소나 행동에 대한 인식력이 부족하다. DARPA는 공식 블로그에서 미군은 AI의 이런 점을 가장 큰 약점으로 보고 있다고 전했다.
미국 시애틀 소재 비영리 단체인 AI2는 기술의 제약을 파헤치는 기관이다. 이곳의 CEO 오렌 에치오니는 AI에 있어 상식이란 천체 물리학자들에게 있어 암흑물질이나 마찬가지라고 말했다. DARPA의 프로그램 매니저 데이브 거닝은 지능형 시스템에서 상식이 부족하다는 것은 이 시스템이 사회나 세계를 진정으로 이해하지 못한다는 뜻이라고 말했다. 또한 상식이 부족한 지능형 시스템은 새로운 경험을 새로운 일을 배우는 기회로 사용하거나 예기치 않은 상황에서 합리적으로 행동하거나 사람들과 자연스럽게 소통하지 못한다. 즉 이것은 우리가 현재 사용하고 있는 AI 응용 프로그램은 물론 미래에 개발하고 사용하려는 AI 프로그램이 넘어야 할 장벽이다.
기계의 상식에 관한 연구는 새로운 분야가 아니다. 초기 연구진은 AI에서 상식 지식과 추론에 대한 접근 방식을 개발하려는 다양한 시도를 해왔다. DARPA는 새로운 기능을 개발하기위한 MCS(Machine Common Sense) 프로그램을 수립했다. 이 프로그램은 지능형 기계가 인간의 상식을 추론하고 인코딩해 문제를 해결하도록 만들기 위한 것이다. MCS는 인지적 이해, 자연어 처리, 딥러닝, 기타 최신 기술을 기반으로 한다.
인간 심리 모방
문제는 단순히 AI에서 상식이 부족하다는 것 뿐만이 아니다. 이 가설이 얼마나 광대한지 정의하고 테스트하는 것 또한 매우 어렵다. DARPA의 제안은 경험을 학습 기회로 사용하는 전산 모델을 모으고 발달 심리학자들이 인지의 핵심 영역으로 정의한 것을 모방하는 데 집중한다. 테크크런치가 보도한 바에 따르면 이것은 의도적 행위자, 공간 탐색 및 직관적인 물리학의 영역이거나 단순히 에이전트, 장소 및 객체로 알려져 있다.
연구진은 개발 초기 단계에서 인간이 어떻게 생각하고 배우는지를 모방한 시스템을 만들려고 노력하고 있다. 이 연구 개발은 이론적, 경험적 방향을 제시하기 위해 인지 발달 분야에서 성취된 결과에 기반을 둔다.
MIT 테크놀로지 리뷰에 명시된 바와 같이 모든 인간은 세상에 태어나서 처음 몇 년 동안 상식과 지능의 필수적인 요소를 습득한다. 발달 심리학자들은 인간의 초기 생애 발달 단계 전반에 걸쳐 이런 인지 능력을 매핑하는 방법을 발견했다. "이런 연구 결과는 기계 및 AI 전문가들이 AI에 상식을 교육하는 방법과 전략을 개발하는 데 도움이 될 것이다"라고 거닝은 말했다.
전산 모델의 진행 및 성공을 평가하기 위해 연구진은 발달 심리학에 관한 연구, 실험 결과 및 문헌을 통해 평가 기준을 제시할 것이다. 발달 지표의 결과 세트는 DARPA에 의해 모델을 '예측/기대', '경험 학습' 및 '문제 해결'의 세 가지 성능 수준과 함께 학습된다.
두 번째 접근법으로 MCS는 웹 상에서 읽을 수 있는 이미지 기반 및 자연어 쿼리 기반 상식을 지식 저장소로 구축했다. DARPA는 연구원이 정보 추출, 매뉴얼 컨스트럭션, 머신러닝, 크라우드 소싱 및 기타 계산 방법론을 사용해 저장소를 구축할 것으로 기대한다. 이 저장소의 결과물은 AI2의 상식 벤치마크 테스트로 비교 평가된다. 이 상식 벤치마크 테스트는 대규모 크라우드소싱으로 일반적인 성인의 상식 및 지식을 구현한 것이다.
▲지능적 시스템에서 상식이 결여됐다는 것은 시스템이 세상을 정확히 이해하지 못한다는 뜻이다(출처=123RF)
성배
AI를 위한 상식을 연구해 온 에치오니는 그 동안 이 개념이 35년 넘게 AI의 '성배'였다고 말했다. 그는 "여러 가지 문제 중 하나는 경험적 발판에 상식을 추가하는 것이다. 상식을 측정할 수 없다면 어떻게 평가하겠는가? 그래서 사람들은 상식을 측정하기 위해 노력했다. 그리고 DARPA가 이를 위해 리더십, 자금 지원 등 다양한 능력을 발휘하겠다고 나선 것은 이번이 처음이다"라고 말했다.
최고의 AI 프로그램조차 여전히 부주의한 오류를 만든다. DARPA는 가장 명백한 오류 및 부주의를 없애기 위해 경쟁에 뛰어들었다. 이들은 프로젝트에 관심이 있는 연구진들을 위해 버지니아 주에서 설명회를 개최하기도 했다. 그 이후 파트너 선정 절차가 진행되며, 선택된 그룹이 AI2의 시스템 평가를 받기 위핸 모델을 내년 초에 제출하게 된다.
DARPA는 AI에 상식을 교육하기 위해 20억 달러(약 2조 2,700억 원)를 투자한다. DARPA는 이 외에도 자율주행 자동차나 애플의 AI 음성 비서 시리 등의 개발에 자금을 지원하는 등 AI 연구에 중요한 역할을 했다.
