Invited Talk : 안전하고 교정할 수 있으며 접근 가능한 범용 인공지능 [Pascal Poupart]

Invited Talk : 안전하고 교정할 수 있으며 접근 가능한 범용 인공지능

최근 AI의 발전으로 놀라운 기능(예: 언어, 이미지나 비디오 생성, 자율주행, 복잡한 추론, 고급 의사결정 등)을 갖춘 일반 에이전트가 등장
안전 제약조건을 학습하기 위한 역 제약 강화학습의 최근 개발 사항을 발표
에이전트가 모르는 것을 알 수 있도록 돕는 불확실성 정량화 기술에 대해 논의
주제 중심 이미지 생성을 위한 확산 모델의 학습 비용을 줄이고, 대규모 언어 모델(LLM)의 엄청 비싼 미세조정을 피하여 LLM 정렬을 모듈화하고 접근성을 개선하는 보상 유도 이미지 및 텍스트 생성의 최근 개발 사항에 대해 논의

University of Waterloo(캐나다)의 David R. Cheriton School of Computer Science 교수
Vector Institute의 Canada CIFAR(Canadian Institute for Advanced Research) AI Chair, Waterloo AI Institute 회원
Georgia Tech, UC Berkeley 및 University of Southern California의 NSF AI Institute for Advances in Optimization(2022년~현재) 자문위원회에서 활동
자연어처리, 머신러닝 알고리즘 개발에 중점, 강화학습 알고리즘 개발에 기여
현재 진행 중인 주요 프로젝트로는 대규모 언어모델의 민주화, 역 제약 학습, 강화학습 기초 모델, 베이지안 연합 학습, 불확실성 정량화, 확률적 딥러닝, 대화형 에이전트, 전사 오류 수정, 스포츠 분석 및 CO2 재활용을 위한 재료 발견 등