브라우저 업체 오페라(Opera)가 AI 모델을 클라우드 서버가 아닌 사용자 컴퓨터에서 직접 실행하는 웹 표준 'WebAI'를 제안하고 얼리 프리뷰를 내놓았다. 10월 27일 공개된 이번 기능은 웹사이트와 브라우저 확장 프로그램이 별도 앱이나 API 키 없이 브라우저에 내장된 로컬 AI를 활용할 수 있게 하는 것이 골자다. 오페라는 WebAI가 구글과 마이크로소프트 등의 지지를 받는 제안 웹 표준이라고 밝혔다.

노트북에서 실행되는 로컬 AI 환경을 나타낀 이미지 / 출처: AI Agent Store / 라이선스: FREE

클라우드 없이 브라우저 안에서 AI가 돌아간다

WebAI의 핵심은 추론(inference) 과정 전체를 브라우저 내부로 옮긴 것이다. 사용자가 열어본 웹페이지 내용을 AI로 처리할 때 그 데이터를 클라우드 AI 업체로 보낼 필요가 없어진다. 오페라는 별도의 AI 앱을 설치하거나 로컬 서버를 구성하거나 API 키를 발급받는 절차 없이 브라우저만으로 AI 기능을 쓸 수 있다고 설명했다.

지원 모델도 하나로 묶여 있지 않다. 오페라는 구현 방식을 '모델 중립적(model-agnostic)'이라고 표현하며, 자체 추론 엔진으로 제공하는 오픈 웨이트(open-weight) 모델과 사용자 기기에 이미 있는 호환 모델을 모두 사용할 수 있다고 밝혔다. 출시 시점에는 구글의 젬마(Gemma)를 기본으로 쓸 수 있고, 애플 실리콘 맥에서는 애플의 온디바이스 파운데이션 모델도 브라우저에서 직접 동작한다.

오페라는 이번 발표에서 개발자용 API 세트도 공개했다. 텍스트를 생성하는 '프롬프트(Prompt)' API, 정보를 분류하는 '디시전(Decision)' API, 콘텐츠 간 의미 관계를 찾는 '시맨틱 임베딩(Semantic Embeddings)' API가 그것이다. 개발자 문서에는 여기에 요약(Summarizer), 작성(Writer), 재작성(Rewriter), 번역(Translator), 교정(Proofreader) API까지 나열돼 있으며, 각 API의 플레이그라운드는 모두 기기 내에서만 실행된다.

2024년 실험 기능이 이번엔 '표준'으로

오페라의 로컬 AI 시도는 처음이 아니다. 2024년 4월 오페라는 주요 브라우저 가운데 최초로 로컬 LLM 기능을 실험 빌드에 넣었고, 당시 메타의 라마(Llama), 구글의 젬마, 미스트랄 AI의 믹스트랄(Mixtral) 등 약 50개 모델 계열에서 150개 변형을 제공했다. 모델 하나가 보통 2~10GB의 저장 공간을 필요로 했다. 당시에는 개발자용 실험 기능이었다면, 이번 WebAI는 일반 사용자에게 옵트인 방식으로 열리고 웹 표준 제안으로 확장된 차이가 있다.

오페라 브라우저·AI 부문 총괄 부사장 크리스티안 콜론드라(Krystian Kolondra)는 "사람들이 AI에게 원하는 일 가운데 상당수는 데이터 센터가 필요하지 않다. 노트북이 이미 해낼 수 있고, 데이터를 어디로도 보낼 필요가 없다"며 "먼저 2024년에 개발자에게 로컬 모델을 제공했고, 이제는 모두에게 열겠다"고 말했다.

"사람들이 AI에게 원하는 일 가운데 상당수는 데이터 센터가 필요하지 않다. 노트북이 이미 해낼 수 있고, 데이터를 어디로도 보낼 필요가 없다."
오페라의 브랜드 아이덴티티 / 출처: The Opera Blog(오페라 공식) / 라이선스: FREE

옵트인 구조로 개인정보 통제권을 사용자에게

오페라가 강조하는 지점은 개인정보와 사용자 통제다. WebAI는 기본값이 꺼져 있는 옵트인(opt-in) 방식으로, 사용자가 설정 메뉴에서 직접 켜기 전까지는 어떤 모델도 내려받지 않는다. 언제든 끌 수 있고, 사이트별 권한 설정으로 어떤 웹사이트가 로컬 AI에 접근할지도 사용자가 정한다. 오페라는 이런 설계 덕분에 구독료 없이 AI 기능을 쓸 수 있고, 로컬 AI가 다루는 정보는 기기 안에 머문다고 밝혔다.

개발자 입장에서도 이득이 있다. 페이지 데이터가 사용자 기기에 머무는 만큼 사용자 정보를 다루는 부담이 줄고, 요청 건당 클라우드 비용을 내거나 AI 인프라를 직접 운영할 필요가 없어진다. 오페라는 탭을 자동으로 정리하거나 클릭베이트 기사를 걸러내거나 관심 있는 채용 공고를 찾아내는 확장 프로그램을 계정도, 요금도, 외부 전송도 없이 만들 수 있는 예를 들었다.

실제 가능성을 보여주기 위해 오페라 팀은 실험용 확장 프로그램 6종을 함께 공개했다. 진행 중인 주제와 문서의 관련도에 따라 문단 색을 입히는 '프로젝트 렌즈(Project Lens)', 방금 읽은 기사로 퀴즈를 만드는 '갓 잇?(Got It?)', 기사에 장난스러운 질문을 던져 차트로 판정을 그리는 '퀘스처너블 인텔리전스(Questionable Intelligence)' 등이 그 예다. 개발자 문서와 지원 API 목록은 next.opera.com/web-ai에서 확인할 수 있다.

온디바이스 AI의 기반이 되는 칩 기술을 나타낸 이미지 / 출처: Princeton Engineering / 라이선스: FREE

지원 기기는 아직 제한적…성능은 하드웨어 좌우

얼리 프리뷰 단계에서 WebAI를 쓸 수 있는 환경은 64비트 윈도우 PC(인텔·AMD 프로세서)와 애플 실리콘을 탑재한 맥으로 제한된다. 인텔 기반 맥, 리눅스, 윈도우 온 암(ARM)에서는 사용할 수 없다. 사용 방법은 오페라 원(Opera One)을 설치하거나 업데이트한 뒤 설정의 '오페라 AI' 메뉴에서 'Web AI API 사용'을 켜면 된다. 이때 호환 로컬 모델이 내려받아지며 몇 분이 걸릴 수 있다.

AI가 기기 자체의 연산력을 쓰는 만큼 응답 속도는 사용자의 하드웨어 사양에 따라 달라진다. 오페라는 로컬 AI 성능이 아직 개선 중이며 더 가볍고 빠르게 만들겠다는 방침이다. 앞으로 기기별로 최적화된 오픈 모델과 도구를 더 공개하겠다고 덧붙였다.

웹 표준 논쟁 촉발할 가능성

이번 발표의 의미는 기능 자체보다 방향에 있다. 지금까지 웹 AI 기능은 대부분 클라우드 API 호출을 전제로 했고, 이는 요금·개인정보·특정 업체 종속이라는 구조적 한계를 함께 안고 있었다. 구글과 마이크로소프트가 나서서 지지하는 WebAI가 표준으로 자리 잡으면 웹 개발자는 브라우저가 제공하는 표준 인터페이스만으로 AI 기능을 구현할 수 있게 된다.

다만 표준화가 단숨에 이뤄지지는 않을 것이다. 기기별 성능 편차, 모델 용량과 다운로드 부담, 브라우저 간 구현 차이 등 풀어야 할 과제가 남아 있다. 그럼에도 브라우저가 AI 실행 환경의 중심으로 이동한다는 흐름은 뚜렷해 보이며, 오페라는 이 경쟁에서 먼저 표준 제안이라는 카드를 꺼낸 셈이다. 사용자와 개발자가 실제로 얼마나 받아들일지는 향후 프리뷰 운영 결과에 달려 있다.