Allen AI, 위성 임베딩 모델 OlmoEarth v1.3과 전 지구 임베딩 공개
OlmoEarth v1.3: State-of-the-art embeddings for the whole planet
Allen AI가 위성 임베딩 모델 OlmoEarth v1.3을 공개했다. 10m 해상도의 전 지구 연간 임베딩(64차원·128차원)도 함께 공유하며, 브라우저에서 지도를 탐색하고 맞춤 설정할 수 있는 OlmoEarth Embeddings Explorer도 제공한다. 27건의 평가 가운데 128차원 버전은 20건에서 최고 점수를 기록했다고 한다.
OlmoEarth v1.3은 Sentinel-1의 레이더와 Sentinel-2, Landsat의 다중 분광 1년치 시계열을 읽어, 10m 픽셀마다 128차원 벡터를 출력한다. 앞의 64차원만으로도 소형 임베딩으로 쓸 수 있다. 구조는 vision transformer가 위성 데이터를 읽고, Attention Pooler가 구획별로 벡터 하나로 요약한 뒤, 선형 층이 128개의 수치로 압축하는 방식이다.
평가에서는 AlphaEarth Foundations(AEF)와 Tessera v2를 비교 대상으로 삼아, 6대륙에 걸친 27건의 평가를 실시했다. 128차원 버전은 20건에서 최고 점수를 얻었고, 절반 크기인 64차원 버전도 18건에서 1위를 차지했다. 열대 농업을 위한 새로운 작물 유형 벤치마크 PLANTEUR도 도입했다. 모델 가중치, 사전 학습 데이터, 사전 학습 코드는 모두 공개되어 있다. 학습 비용은 v1.2의 53%, v1의 18%에 해당하는 계산 시간이었고, 탄소 배출량은 각각 50%와 22%였다. Base 모델의 사전 학습 최종 실행은 H100 대여 기준 약 2,720달러로 추산했다.
기존 OlmoEarth의 주된 활용법은 OlmoEarth Studio에서의 파인튜닝으로, GPU와 이미지 다운로드·저장이 필요했다. 이번 전 지구 임베딩은 Source Cooperative를 통해 공유되며, 그 위에 작은 분류기를 얹어 로컬에서 실행하면 작물 지도, 토지 피복도, 변화 분석이 경량 작업이 된다. 예로 케냐 소규모 농가의 작물 분류, 다카 서부의 벽돌 가마 탐지, 인도네시아의 화재 피해 평가, 페루 아마존의 금광 채굴 추적을 들었다.
OlmoEarth Embeddings Explorer는 계정 없이 사용할 수 있으며, 유사 지점 검색과 몇 개의 레이블로 즉석에서 분류기를 학습해 GeoTIFF로 출력하는 기능을 갖췄다. 아카이브는 연간 약 150TB이며, 공개 시점에는 2025년, 2024년, 2023년이 전 지구 대상이고 2017년부터 2022년은 일부 국가만 대상이다. 각 임베딩에는 원본이 된 Sentinel-1, Sentinel-2, Landsat 장면을 보여 주는 출처 테이블이 붙는다. 산출물은 OlmoEarth Artifact License로 공개되어 있다.
출처: Hugging Face Blog · huggingface.co