Session2. 새로운 AI 알고리즘을 위한 원칙 (한라홀 1·2)

평생 개념 학습

오늘날의 AI 모델은 주로 오프라인 iid 데이터로부터 학습합니다. 배포 시점에 진정한 적응력을 발휘하려면 시간이 지남에 따라 새로운 개념을 습득하고 통합해야 합니다. 본 발표에서는 새로운 시각적 및 의미적 개념의 임베딩, 개념 발견을 위한 비지도 맥락 내 클러스터링, 그리고 평생 비디오 스트림으로부터 지속적인 표현 학습을 지원하는 이벤트 분할 알고리즘을 포함한 평생 개념 학습 방법을 제시합니다.

온라인 시간적 동작 위치 추정과 자유형 설명 생성을 결합하는 과제인 계층적 스트리밍 비디오 이해(Hierarchical Streaming Video Understanding)를 소개합니다. 계층적이고 세분화된 시간적 주석을 가진 데이터세트가 부족한 상황에서, LLM이 원자적 동작을 더 높은 수준의 이벤트로 효과적으로 그룹화하여 기존 데이터세트를 풍부하게 할 수 있음을 보여줍니다. 또한, 동작 분류를 넘어 스트리밍 동작 인식을 확장하는 OpenHOUSE(Open-ended Hierarchical Online Understanding System for Events)를 제안합니다. OpenHOUSE는 인접한 동작 간의 경계를 정확하게 감지하는 특수 스트리밍 모듈을 특징으로 하며, 기존 방법을 직접 확장한 경우보다 거의 두 배의 성능을 제공합니다. 강력한 생성 모델과의 통합을 통해 스트리밍 동작 인식의 미래를 구상하며, OpenHOUSE는 이러한 방향으로 나아가는 중요한 단계입니다.

알고리즘 시스템에 윤리와 법률 준수를 통합하려면 데이터 분석의 "마지막 단계"를 넘어서는 세심한 주의가 필요합니다. 데이터 수집 및 준비 과정에서 내리는 결정은 시스템의 정확성, 공정성, 그리고 해석 가능성을 형성합니다. 본 강연에서는 기술적 선택이 어떻게 윤리적 가치를 함축하는지, 그리고 책임감 있는 AI가 거버넌스, 교육, 그리고 대중 참여 전반에 걸쳐 어떻게 통합을 요구하는지 살펴봅니다.

심층 신경망과 같은 복잡한 인공지능(AI) 시스템은 군사, 금융, 인사, 자율주행 등 여러 미션 크리티컬한 업무에 활용되므로, 이러한 복잡한 AI 시스템의 안전한 사용을 보장하는 것이 중요합니다. 본 발표에서는 심층 신경망의 내부 의사결정을 명확히 하는 최신 기술들을 소개합니다. 또한, 아티팩트나 신뢰성이 낮은 출력을 발생시키는 내부 노드를 자동으로 수정하는 방법을 개괄적으로 살펴보겠습니다. 나아가, 일부 심층 신경망에 안정성이 낮은 내부 노드가 포함된 이유도 살펴보겠습니다.

최근 다중 모드 기반 모델의 발전은 AI 연구 환경을 크게 변화시켰습니다. 이러한 발전이 인공 일반 지능(AGI)에 한 걸음 더 다가갔다고 믿는 사람들도 있지만, 회의적인 시각을 가진 사람들도 있습니다. 이 패널에서는 현재 패러다임에서 아직 부족한 점, 예를 들어 인간처럼 현실 세계의 상호작용을 통해 지속적이고 효율적으로 학습할 수 있는 AI 시스템을 어떻게 설계할 수 있을지에 대해 살펴봅니다.