안전하고 교정할 수 있으며 접근 가능한 범용 인공지능

국가AI연구거점(NAIRL)은 2024년 10월 29일 KAIST 서울캠퍼스 김재철AI대학원에서 파스칼 푸파르(Pascal Poupart) 워털루대학교 데이비드 R. 체리턴 컴퓨터과학부 교수를 초청해 강연을 개최했습니다.

푸파르 교수는 ‘안전하고 보정되었으며 접근 가능한 범용 인공지능을 향하여(Towards Safe, Calibrated and Accessible Artificial General Intelligence)’를 주제로, 최근 AI의 발전이 언어·이미지·영상 생성, 자율주행, 복잡한 추론, 고도의 의사결정에 이르는 놀라운 역량을 갖춘 범용 에이전트의 등장으로 이어지고 있다고 짚었습니다. 그는 인간의 시연으로부터 안전 제약을 학습하는 역제약 강화학습(inverse constraint reinforcement learning)의 최신 연구를 소개하고, 에이전트가 자신이 모르는 것을 알 수 있도록 돕는 불확실성 정량화 기법을 논의했습니다. 아울러 피사체 중심 이미지 생성을 위한 확산 모델의 학습 비용을 줄이고, 막대한 비용이 드는 대형언어모델(LLM) 미세조정 없이 정렬(alignment)을 모듈화해 접근성을 높이는 보상 유도 이미지·텍스트 생성 연구의 최신 성과도 소개했습니다.

푸파르 교수는 벡터 연구소(Vector Institute)의 캐나다 CIFAR AI 체어이자 워털루 AI 연구소 멤버입니다. NSF 최적화 발전 AI 연구소 자문위원을 맡고 있으며, 캐나다왕립은행 산하 워털루 보리얼리스 AI 연구소에서 연구 디렉터 겸 수석 연구 과학자를 지냈습니다. 그의 연구는 자연어 처리와 소재 발굴에 응용되는 기계학습 알고리즘에 초점을 두고 있으며, 특히 강화학습 알고리즘 발전에 기여한 것으로 잘 알려져 있습니다. 연구팀은 대형언어모델의 민주화, 역제약 학습, 평균장 강화학습, 베이즈 연합학습, 불확실성 정량화, CO2 재활용을 위한 소재 발굴 등의 프로젝트를 진행하고 있습니다. 국가AI연구거점은 앞으로도 초청 강연 시리즈를 통해 국내 연구 커뮤니티와 세계 유수의 AI 전문가들을 연결해 나가겠습니다.