[Two Cents #68] B2B AI 시장에 대한 생각 — 미국 시장의 렌즈를 통해서 본

Aug 27, 2024

약 한 달정도 실리콘밸리에 머물면서 AI 관련 이야기를 많이 듣고 많이 나누면서, ‘지금 당장’ AI 관련 비즈니스 현장에서 일어나고 있는 것에 대한 현장감을 특히 B2B AI 시장 중심으로 많이 느낄 수 있었다.

특히 이 기간 중 Snowflake와 Databricks의 개발자 컨퍼런스가 2주간 연달아 열렸기 때문에, 기업들의 AI 전환을 가장 적극적으로 드라이브하고 있는 두 회사의 제품군 및 관련 파트너사들을 통하여 미국 기업들의 AI 전환 관련 트렌드를 잘 관찰할 수 있었다.

기본적으로 국내에서도 AI 관련된 기술, 제품, 회사들의 주요 움직임 등에 대한 정보를 얻지 못하는 것은 거의 없지만, 실제 현장에서 그 것을 만들고 있는 사람들과의 이야기를 통해 느낄 수 있는 조금 다른 현장의 느낌, 특히 B2B 시장 중심으로 몇 가지 key takeaways를 공유해 본다.

[공지 사항] AI Pitching & Mentoring

더 많은 AI 스타트업들과 만나서 Two Cents에서 공유하는 AI 관련 생각들을 나누는 기회를 위하여, 새로운 프로그램을 운영하기로 하였습니다.

이름하여 AI Pitching & Mentoring.

AI 스타트업 창업자들이 고민하는 이슈에 대하여서는 최대한 제가 드릴 수 있는 피드백, 조언 등을 드릴 수 있는 멘토링을, 그리고, 투자를 받을 준비가 된 스타트업을 위해서는 저희 HRZ 대상으로 피칭하는 기회를 만들려고 합니다.

이 두 가지가 명확히 구분되지는 않지만, 멘토링인가, 피칭인가에 따라 제 스스로 창업자를 대하는 마음의 자세가 달라지기 때문에 굳이 구분해 보았습니다.

대상은 (당연한 이야기이지만) AI 스타트업과 창업자 입니다. 신청하실 때 회사의 1줄 소개와 pitch deck을 공유해 주시면, 그 내용을 보고 별도로 시간을 잡을 수 있는 링크를 개별 연락처로 보내 드리겠습니다. 그 링크 내의 가능한 시간으로 예약하시면 됩니다.
HRZ는 기본적으로 시리즈 A 정도 단계의 스타트업에게 $1~5m 규모의 투자를 하는 초기 VC이기 때문에, 피칭은 이 정도 단계의 스타트업이 신청해 주시면 좋겠습니다. (https://www.hrz.vc/)
목표는 매주 1개 회사 이상, 최대 3개 회사까지 진행하려고 하며, 앞으로 당분간 계속 운영해 보려고 합니다. 신청하는 곳이 많으면 모든 회사에게 기회를 드리지 못하더라도 양해 부탁드립니다.
각 세션의 시간은 기본적으로 45분입니다. 기본적으로는 Zoom 미팅으로 진행하며, 필요한 경우 대면 미팅을 진행할 수도 있습니다.

AI Pitching & Mentoring에 관심있는 스타트업은 아래 링크로 신청 부탁드립니다.

https://bit.ly/aipitchnmentor (← 신청하는 곳)

가능하면 많은 AI 스타트업과 만나는 기회가 되기를 바랍니다^^

미국 B2B 시장 관찰

B2B LLM 시장

가장 먼저 LLM 시장을 보면, 일반적으로는 새로운 SOTA LLM 모델의 출시가 대중의 주목을 많이 받지만, 실제 기업 대상 시장에서는 SOTA 모델의 성능 경쟁보다는 기업의 니즈에 맞춘 LLM 공급에 집중하여 조금 다른 형태로 진행되고 있는 것으로 보인다.

크게 두 가지 방향으로 진행되고 있다고 보이는데,

첫 번째, 기업 대상의 비용 효율적이고 (토큰 가격 경쟁 및 비용 절감 기술을 의미함), 적용 분야의 니즈에 특화된 (적용 분야에 맞는 fine-tuning, 기업 인프라 구조에 맞게 on-prem/private cloud 등의 특화를 의미함) mid-market LLM 중심으로, 타겟 기업 및 vertical market의 워크플로우에 맞는 biz app 구축에 집중하고 있다.

주목할만 한 예로는 이스라엘 스타트업 AI21이 있다. AI21은 미국 시장에 집중하되, SOTA 모델 경쟁보다는 100B 이하의 mid-market에 특화하여 기업의 다양한 니즈를 충족할 수 있는 LLM 공급에 집중하고 있으며 (fine-tuning, on-prem 등 포함), 자사의 기술력을 보여 주기 위하여 Transformer 구조와 Mamba 구조를 결합한 새로운 방식의 mid-sized LLM도 개발하였다.

두 번째, 타겟 vertical 혹은 horizontal 기능에 맞는 특화된 LLM가 시도되고 있다.

가장 대표적인 예로서 금융산업에 특화된 BloombergGPT가 있는데, 현장에서는 크게 언급이 되지는 않음. 아마 이 분야에서의 biz dev는 behind the curtain에서 진행되어서인 듯 하다. 그 외의 vertical로 bio/pharma는 대상 시장의 규모때문에, legal, accounting/tax 분야는 지식노동 분야 중 AI 적용성이 가장 쉽다는 점에서 주목 받고 있다. 그 외 제조업, 물류 등의 vertical에서도 다양한 시도가 있음

주목할만한 예로는 (Andrew Ng이 창업한) Landing AI가 있다. Landing AI는 제조업, 인프라, life science 등 분야의 생산 공정에 적용하여 생산성, 불량률 개선을 위한 vertical market 특화 LLM으로서, 이 기반으로 기업 대상의 다양한 vertical 솔루션에 집중하고 있다.

Horizontal 분야에서 가장 경쟁이 심한 코딩 영역은, Github co-pilot 외에도 대부분의 LLM에서 coding에 특화된 LLM을 병행하여 출시하고 있으며, agent framework 기반의 차세대 제품 (Devin, Cursor 등) 시장에 막 진입/선점하고 있는 단계로 보인다.

그 외 horizontal 분야는 아직 해당 기능에 LLM 수준에서 특화된 제품이 나오지는 않았으며, horizontal LLM이 의미가 있는지는 아직 판단이 안 되고 있다.

그 외의 몇 가지 관찰:

(1) 기업 대상 적용에서는 비용 효율이 중요한 요소가 되기 때문에, inference 비용 경쟁도 치열해지고 있다.

대표적으로 SOTA 모델의 토큰 가격 경쟁이 가장 눈에 띄지만, 그 외 inference 비용 optimization을 위한 기술 (예: Fireworks, Friendli AI 등), 비용 효율화를 지향하는 새로운 LLM architecture 시도 (예: Mamba + Transformer → Jamba) 등이 있음

(첨언: LLM의 inference 비용때문에, 기본 서비스를 무료로 제공하고 일부의 유료 고객에 대하여 과금하던 기존의 freemium 모델은 (B2C, B2B 공히) 제공하기 어렵다. 이 때문에, B2C/B2B 서비스의 PMF, GTM, Growth 측면에서 기존의 방법론을 그대로 적용하기 어려워지며, 새로운 방법론이 필요하게 된다. 이는 별도로 논의할 주제가 되겠다)

(2) Language model vs. multimodal model 구분은 중요하지 않고, 적용/응용 분야의 니즈에 따라 기존의 neural net model, LLM 등의 기술 구분 없이 니즈에 따라 선택적, 복합적으로 사용하고 있는 것으로 보임 (예: Landing AI)

(3) 특히 multi-modal에 관하여서는,

“컨텐츠 생성” 자체가 목적인 경우, 지식 노동자의 일상 업무에 적용하기 위한 툴의 사용은 빠르게 보편화되고 있는 것으로 보임. 예를 들어, ARR $200m에 이른 Midjourney는 대부분 직장인들이 업무에 적용하기 위한 활용이라고 판단된다. 동영상 생성에서 주목받은 Pika도 Epic Games와의 B2B 제휴에 집중하고 있다는 소문도 있다.

이 추세에 따라 관련된 multi-modal 툴, 인프라도 점차 고도화 되고 있다. 예: vector DB, multi-modal 워크플로우 툴 등

기업 대상 AI 툴 시장

이러한 움직임을 기반으로, 기업을 위한 AI 툴 시장은 AI stack의 각 구성 요소를 점차 채워가는 것과 동시에 각 구성요소의 고도화가 진행되고 있다.

RAG, fine-tuning이 B2B AI 앱 개발의 기본 방법론이 되고, 이 기반으로 optimization을 위한 기술 다양화가 진행되고 있는 것으로 보인다. 향후 pre-training, fine-tuning, RAG 간의 선택은, 응용 분야의 특성, 비용 등의 이슈에 따라 다양하게 선택될 듯.

몇 가지 주목할만 한 키워드:

RAG 고도화, 확장: 예: GraphRAG
vector DB의 보편화 (기존 SQL 데이터베이스의 vector DB 확장) 및 고도화 (knowledge graph, multi-modal)
Agentic framework & tool (B2B 워크플로우 지원을 위한 툴) 본격적으로 출시 & 적용 시작

기업용 AI stack에서 핵심 enabling 요소:

evaluation/observability, security, analytics
security, privacy ((PII anonymization, enterprise data 유출 방지)
data tool (cleansing, un-structured to vector db, de-dup …)
compute optimization (GPU scheduling, inference optimization)
개발 환경 (”RAG IDE” “one-click RAG”, fine-tuning platform, workflow 툴
database (sql/no-sql → vector, knowledge graph …)

그외 주목할만 한 기회들:

특화 API: voice, video 등의 특정 기능/영역의 포괄적인 API 제공
vertical별 (제조, 건설 …) 특화 LLM 및 워크플로우 툴

B2B AI Stack

B2B AI stack에서는, (SOTA LLM의 새로운 기능보다) 오히려 (1) 툴/생태계 환경의 완성 및 고도화, (2) B2B 환경에 적용되는데 필요한 기본 요건/요소 (예: 비용, 평가 (evaluation, observability), 보안, 프라이버시 등)의 핵심 요소들이 훨씬 중요하게 다루어지고 있다.

이 추세를 간단히 요약하자면,

(1) (아래의 예에서 볼 수 있는) B2B AI Stack의 빈 곳이 빼곡히 채워지고 있고,

(2) AI Stack의 각 요소도 B2B 수요에 따라 계속 고도화/확장되면서 치열한 경쟁을 치르고 있다.

B2B AI stack의 예:

Modern AI Stack — Menlo Ventures

Enterprise AI Stack — Signature Block

이 과정은 앞으로도 꾸준히 지속되겠지만, 이 분야에서 열려 있는 ‘큰’ 기회는 앞으로 2-3년 이내에 대략 문이 닫힐 듯 하며, 이후에는 status quo 중심으로 incremental한 변화 중심으로 계속될 것으로 보인다. (새로 등장한 시장 초기에는 늘 그랬듯이)

이러한 흐름은, 단순한 co-pilot 보조 툴 수준에 머무르는 것이 아니라, 기업 업무 적용에 필수적인 앱 + 워크플로우 + 필수 요소 (보안, 운용성 등)에 대한 지원을 적극적으로 강화함으로써, Gen AI라는 화두가 시장에 확산되면서 당연히 기업의 CIO들이 가질 관심에 따른 demand pull과 함께, 기업의 CIO/CAIO/CISO 대상으로 하는 공급사 중심의 supply push가 강하게 일어나고 있는 것으로 보인다.

Key Takeaways

이를 기반으로, 현재 단계에서 B2B AI 관련 key takeaways 몇 가지를 꼽자면,

워크플로우 중심:

특정 기능 중심의 point tool을 제공하는 비즈니스 모델이 이 장기적으로 지속/생존 가능할 지는 의문이며, ‘워크플로우’에 맞추어 AI 툴 환경을 제공하고, 한 걸음 더 나아가 기업 활동에서의 가치 흐름에 맞는 환경을 제공하는데 AI를 활용하여 이를 극대화 하는 방안을 지향해는 형태의 비즈니스 모델을 추구해야 할 것으로 보인다.

기업의 실질적인 가치 제공 중심:

기본적으로 기업에서 소프트웨어와 같은 도구를 사용하는 목적은, 매출 증가, 아니면 비용 감소, 두 가지 경우이며, 이 각각에서 매출 증가, 혹은 비용 감소를 극대화 할 수 있는 역할을 정의하고 그에 맞는 소프트웨어/AI 도구를 제공하는 것이 필요하다.

달리 표현하자면, 기업의 가장 중요한 목표인 ‘이익 극대화’를 위한 도구로서의 AI의 역할에 집중해야 하겠다. 특히, 기업 업무 프로세스에서 가치/돈의 흐름에 따라, 그 길목을 찾고/지키는데 가장 큰 value-add를 하기 위한 도구 혹은 플랫폼으로서의 AI 기술의 역할에 집중하는 것이 필요하다고 본다. 이는 기존에 소프트웨어 (SaaS)가 기업에서 하였던 역할과 같은 포지션이다.

예를 들면, 동영상 기술에서 동영상 ‘생성’ vs. 동영상 ‘이해’ 분야를 보면, ‘돈의 흐름’ 측면에서 동영상 ‘생성’ 보다는 동영상 ‘이해’와 관련된 시장이 훨씬 더 클 것이다. 동영상 생성을 필요로 하는 광고 제작, 엔터테인먼트 영상 제작, 마케팅 컨텐츠 제장 등의 시장 대비, 동영상 이해를 필요로 하는 영상 검색, 이해 (예: 건설 현장의 재해 파악 등), 광고 placement 등 다양한 기업의 업무 워크플로우에서 만들어질 가치가 더 클 것으로 예상되기 때문이다.

국내의 AI 스타트업 중, 특정 point tool 형태의 기능 제공에 집중하면서, 이를 B2C 혹은 B2B에 적용할지, B2B에 적용하면 어떤 형태로 그 비즈니스 구조, 모델을 만들어야 할지에 대한 답을 아직 찾고 있는 곳들을 여러 곳 만나 본 편이다. 이 스타트업들이, 먼저 B2B 대 B2C 사이의 선택도 가능하면 이른 시간에 결정하고, B2B 시장에 집중하겠다고 결정을 하면 위의 점들에 집중해서 최적의 답을 찾아 가기를 진심으로 바라는 바이다.

B2B AI의 진화 단계에 대한 생각

이러한 관찰을 기반으로 B2B에 AI가 적용되는 과정을 정리해 보면, 크게 아래의 3단계로 나누어 진행되고 있다고 본다.

1단계: Co-pilot 툴

LLM을 기존 소프트웨어 툴에 확장된 보조 툴로 추가하여 사용하는 co-pilot 수준의 확장. (주로 개인 productivity tool로 사용되는) Office 365, Google Workspace, Adobe Firefly 유형과, (기업용 custom productivity tool로 사용되는, 주로 RAG 기반의) AI 비즈니스 앱 유형으로 나누어짐. 현재 소프트웨어 환경에서 LLM이 가장 많은 사용자 기반으로 활용되고 있는 유형

2단계: 워크플로우 + AI, Vertical AI

그 다음 단계로 현재 막 등장하고 있는 유형이,

(1) 각 vertical 별로 특화된 (pre-training, fine-tuning 등) 모델 혹은 (관련 vertical 특화된 biz app, 워크플로우에 특화된) vertical 플랫폼 기반의 Vertical AI

(2) (주로 RAG 기반 AI biz app 수준을 넘어서) horizontal 기능 별, 혹은 vertical 시장 별로 특화된 워크플로우와 AI가 결합되는 형태

지금 미국 시장에서 B2B AI 시장은 이제 이 단계에 진입하고 있는 것으로 보인다. 여기에서, 기업의 기존 데이터 인프라의 축이 되는 Snowflake, Databrick 등이 중심이 되어, vertical 시장 별, horizontal 기능 별로, 기업의 기존 워크플로우에 AI가 통합되어 기업들이 실질적인 효과 (생산성 증가, 비용 절감 등)를 얻을 수 있는 과정이 이제 막 시작되었다는 것이 이번에 가장 크게 눈에 띄는 점이었다.

이러한 2단계는 기업의 기존 업무 플로우를 그대로 둔 상태에서 그 워크플로우에 맞추어 AI 툴을 적용하는 형태로 볼 수 있다.

여러 AI 스타트업에서 특정 핵심 기능을 구현한 point tool 형태의 서비스 기반으로, 이 핵심 기능을 중심으로 B2C vs. B2B 어디 집중할지, 어느 segment/vertical에 집중할지, 이에 기반하여 어떤 제품 & 비즈니스 모델로 만들지 고민을 하는 경우를 많이 보는 편이다.

이에 대하여, “이 툴/서비스로 어떤 제품을 만들수 있을까”라는 공급자 중심의 시각보다, (B2B, B2C 모두) 고객 (기업 혹은 소비자)의 워크플로우 중심으로, 각 단계에서 그 서비스가 어떤 역할로 어떤 value prop에 집중할 지에 집중하는 수요자 중심의 시각으로 그 답을 더 잘 찾을 수 있을거라 생각한다.

3단계: 이 다음 단계는 어떻게 진화할까?

B2B AI의 다음 단계가 어떤 형태로 될 지에 대해서는, 비즈니스가 고객에게 제공되는 방식 및 이를 위한 내부 업무 워크플로우 등이 AI의 영향으로 어떻게 바뀔지에 따라 달라질 것이기 때문에, 많은 상상이 필요하다.

몇 가지 상상을 해 보자면:

AI-Integrated 비즈니스: 현재의 2단계가 기존 워크플로우가 유지된 상태에 AI 툴 혹은 veritcal AI 플랫폼을 적용하여 단순히 효율을 개선하는 형태인 것에 비해서, 가장 먼저 상상할 수 있는 그 다음 단계 형태는 AI 툴/플랫폼과 기존 업무 워크플로우가 서로 상호 영향을 주면서 통합하여 운영되는 형태가 되지 않을까 한다.

즉, 기존 워크플로우의 일부를 AI가 대체하면서, 전체 워크플로우가 기존 조직/워크플로우 및 AI가 대체한 워크플로우가 서로 맞물려 돌아 가는 방식.

예를 들면, 로펌의 기존 전체 업무 프로세스 중, AI가 담당할 수 있는 부분 (예: 리서치, 법률 문서 비교 & 분석, 의도에 맞는 법률 문서 drafting 등)은 AI가 (기존 인력들이 상당부분 autonomous하게 역할 분담하여 주도적으로 처리하듯이) 업무를 처리하고, 이를 (법적 행위 주체가 될 수 있는) 변호사가 human in the loop 형태로 final sign-off하여 업무를 제공하는 방식으로 진행된다면, AI과 인력이 결합된 조직이 새로운 AI-empowered 로펌이 될 수도 있을 것이다. 이 경우, 법률 전문가를 시간 단위로 hire한다는 기존의 법률 서비스 비즈니스의 기본 구조에서부터, 제공되는 개별 법률 서비스가 법률 서비스 상품으로 변경된다는 의미를 가지고, 이에 따른 과금 체계도 기존 ‘투입된 시간당 청구’에서 부터 ‘처리된 단위 업무당 청구’ 형태로 바뀌어야 할 수도 있다. (사실 이 아이디어는 기존에 법률 시장을 대상으로 하는 SaaS 서비스 스타트업과 논의해 본 것이기도 하다. AI로 인하여 그 feasibility가 훨씬 더 높아졌지만)

비슷하게, 온오프라인 유통 회사에서, 상품의 소싱, 온라인 등록, 온오프라인 마케팅 활동 (온라인 퍼포먼스 마케팅, 오프라인 광고 집행), 마케팅 활동 결과 분석에 따른 상품 추가 소싱 및 주문 등의 일련의 활동을, (필요하면 agent 형태의) AI와 기존 인력/워크플로우가 서로 역할 분담하여 각자 주도적으로 업무 처리를 할 수도 있을 것이다.

이미 AI 툴을 적극 도입하면서 기존 인력의 상당 부분이 축소된 상태에서도 기존 업무보다 더 나은 성과를 올리는 기업이 일부 나타나기 시작하였고, 이러한 AI 도입 결과가 알려지는대로 그 확산은 급속히 일어날 수 있다.

이렇듯, 기존의 기업 조직의 업무 프로세스 중 상당히 많은 부분을 AI (특히 autonomous multi-agent)가 담당하여 다른 인력과 역할 분담 & 협력하여 처리하는 형태, 즉 AI와 기존 업무 워크플로우가 통합된 “AI-integrated 비즈니스”가 점진적으로 확산될 가능성이 높다. 기존 조직과 워크플로우 대비 비용 효율을 획기적으로 (order of magnitute) 개선시킬 수 있을 것이기 때문이다.

이에 대응하여 AI를 적용하는 형태는, 1단계의 copilot, 2단계의 워크플로우+AI의 방식이 그대로 적용되면서, 추가로 AI 및 다른 인력 간의 각각 자율적인 업무 추진, 업무 comm, coordination, interaction 방식이 AI 툴 & agent를 통해 강화되면서 가능해질 듯 하다. (현재 AI툴을 ‘copilot’이라고 부르는 것 대비, 업무 워크플로우의 일부를 AI가 담당하는 형태를 ‘autopilot’이라고 부를 수 있다.)

(사족: VC 투자자 입장에서는 이러한 흐름이 보편화될 경우 많은 투자 기회가 사라질 위험도 있다. AI-integrated된 기존 비즈니스는 통상 VC 투자 대상이 되기 어려울 가능성이 높기 때문이다)

새로운 AI-native B2B behavior: 어쩌면 (Consumer 시장에서 AI 기반의 새로운 behavior를 기대하듯이) B2B 환경에서도 새로운 공급자 및 소비자 behavior에 기반한 기존에 없던 새로운 형태의 “AI-native” B2B 서비스/플랫폼이 등장할 수도 있을 것이다.

예를 들면, 기존의 쇼핑은 “소비자가 주도적으로 원하는 상품을 검색하면 (request), 커머스 서비스 측에서는 그에 대응하여 (response) 개인화된 (여기에도 AI가 적용될 것이다) 상품 추천이 되고, 소비자가 그 중에 수동으로 구매할 상품을 선택해서 checkout하고 (request) 이에 대한 결제/배송 처리가 되는 (response)” 방식이라고 보면, 이는 기본적으로 ‘소비자의 구매 의도 (intention)’에 대응하여 일련의 request-response sequence를 제공하는 방식이다.

이에 대비하여, 새로운 방식의 AI-empowered 쇼핑을 상상해 보자면, (소비자의 선제적인 ‘구매 의도’에 의하여 initiate된 것이 아니라) 소비자의 전체 일정, 취향, 과거 구매 이력 등을 이미 알고 있는 ‘개인화된 쇼핑 agent/assistant’가, 새로운 상품 공급자로부터의 구매, 중고 상품 판매/대여 서비스로부터의 구매/대여, p2P 대여 등의 다양한 방식으로 그 상품을 확보하여 사용자에게 선제적으로 추천/제공하는 방식의 새로운 쇼핑 behavior를 제공할 수도 있을 것이다. (이렇게 노력해 보아도, 새로 등장할 B2B behavior에 대하여 충분히 상상력을 발휘하지는 못 한 듯 하다ㅠㅠ)

AI로 인하여 변화할 새로운 소비자 behavior 및 그에 대응하는 새로운 서비스/비즈니스의 제공 방식에 대하여 그 구체적인 방식은 아직 그림이 그려지지 않지만, “새로운 AI-native behavior”에 따른 비즈니스 제공 방식의 변화 및 그에 대응하는 서비스 제공자의 프로세스에 따라 AI가 좀 더 관여/주도하는 비즈니스 프로세스가 구축되면, 그에 맞는 AI 툴/플랫폼의 제공 방식도 상당한 변화가 따를 것이다. (현재 미국의 B2B/B2C AI에서 가장 주목받는 키워드인 Agentic framework이 대표적인 형태의 하나가 될 듯하다.)

B2B 시장 너머… “Consumer what?”

위에서 설명한 B2B 시장에서 지금 당장 일어나고 있는 일들 외에는, Consumer 시장, 뭔가 새로운 (장기적 시각에서의) 큰 변화에 대한 논의는 놀라울 정도로 적었다.

Consumer 시장에서의 AI는, 미국 시장에서는 인프라를 갖춘, 또 $10b 규모의 장기 투자가 가능한 Big Tech들의 플레이 중심인 것으로 보이고 (OpenAI가 연간 $4-5b 영업 손실을 내고 있긴 하지만, 런칭 2년만에 $3-4b 매출을 만든 것을 생각해 보자), 캐릭터 챗봇 이 외에는 (구글의 사실상 Character AI 인수에서 보듯이, 이마저도 거의 안 남아 있지만) 게임, 컨텐츠 등 서비스에의 AI 적용은 아직 가시권에서 논의조차 되지 않고 있는 단계이다. (게임 분야에의 적용은, 캐릭터/아이템 생성, 일러스트레이션 자동화 등 게임 제작 과정을 효율화하는 툴로서의 적용에 집중하고 있는 단계이다. 예: Scenario, Leonardo)

미국 시장에서의 Consumer AI 기회는, ‘완전히 새로운 behavior의 등장’에 따른 완전히 새로운 유형의 B2C 서비스들이 등장하는 것에 기대하고 있는 것으로 보이며, 이와 가장 가까운 것이 Agent 기반의 새로운 유형의 서비스들에 대한 몇 가지 실험 정도이다. 그나마도 아주 폭발적인 기대를 가지고 “유레카’를 외치기 보다는, “agent 방식이라는 새로운 방식이 있다고 하니 이 것으로 할 수 있는 다양한 실험을 해 보는 정도”의 느낌.

물론 시장에 근본적 변화를 가져 올 수 있는 새로운 동인들 (예: 90년대 말 Google의 PageRank 기반의 새로운 방식의 검색 서비스)은 ‘인싸’들끼리의 직접적인 교류, 제휴, 투자 등에 의해서 일어날 것이고, 이런 ‘시장 바닥’에서 다루어지지는 않을 것이기 때문에, 실제로는 ‘시장 바닥’에서 느끼는 것보다 훨씬 많은 것들이 ‘커튼 뒤에서’ 일어나고 있겠지만, 그럼에도 Consumer 시장 기회 및 새로운 가능성, 새로운 소비자 행태 (behavior)에 대해 논의되는 것은 그리 많지 않았다.

지금 현재도 Y Combinator의 각 batch를 보면 절반 이상이 B2B, SaaS, 개발 툴인 것에서 알 수 있듯이, 이는 (지금 당장 비즈니스 기회를 바로 잡을 수 있는) B2B 지향성이 강한 미국 스타트업 환경의 특징이라고 할 수도 있다.

그럼에도, 장기적으로 새로운 사용자 행태 변화를 가져 올 새로운 방식에 대한 실험도 꾸준히 새로운 것이 시도되고 있었고 (대부분 해커톤 데모에서 볼 수 있다), 이러한 것들이 축적되다 보면 어느 순간 이들이 축적되어 갑작스러운 큰 변화를 가져 올 것이라고 본다.

이런한 점에서, Consumer 시장에서 몇 가지 주목할만 한 것을 꼽자면:

새로운 시도의 대부분은 agent 관련된 것들이다. 현 단계에서는 Devin이 보여 준 ‘(reactive) 툴로서의 agent’ 정도가 가장 앞선 수준이고,
스탠포드에서 실험적으로 시도한 “집단으로서의 human behavior를 시뮬레이션하는 agent 환경” 같은 완전히 새로운 실험이 진행되고 있는 것과 함께,
클라우드에서 운용되면서 자율적으로 정보를 취합하고 action request를 인간에게 주도적으로 요청하는 (예전에 pro-active agent라고 부른) agent 방식이 이제 막 해커톤 데모와 트위터 (예: 커머스 에이전트) 상의 논의가 시작되고 있는 수준이며,
Llama-4에서는 agent에 특화된 pre-training이 특징이 될 것이라는 예상 정도가 현재 진행되고 있는 수준

이 점에서 agent (+ pro-active agent)가 특히 Consumer AI 시장에서의 ‘완전히 새로운 behavior’의 단초가 될 것으로 보이지만, 그럼에도 그 첫 번째 use case는 아주 높은 가능성으로 B2B 혹은 B2B2C 형태가 될 것이라고 본다.

이 외에 좀 더 넓은 시각에서 새로운 ‘value prop’ 찾기 위한 새로운 ‘실험’으로서는,

당연히 가장 잠재 시장 규모가 큰 것으로는 신약 개발 (AlphaFond), Renewable energy, 환경 등의 분야가 있을 것이고, (당연히 ‘시장 바닥’에서는 잘 보이지 않았지만)
그 외에, 드론, 로봇, ambient 환경 등에 대한 실험이 (미국답게) 생각보다 다양하게 일어나고 있었다.

당연한 이야기이지만, B2B AI 분야도 빨리 시장이 커지면서 그 내용도 끊임없이 진화하고 있다.

B2B AI 시장의 흐름을 보면, 현재 단계에서는 기업 워크플로우가 유지되면서 기존의 툴을 AI가 개선/대체하는 형태로 진행되고 있지만, (Consumer AI 시장에 대하여 기대하고 있는 것 못지 않게) B2B AI 시장에서도 점차 기업의 워크플로우의 구조 자체가 AI에 의하여 변화하고, 또 소비자의 새로운 behavior 등장과 함께 기업이 이에 대응하는 방식도 달라지면서 새로운 B2B behavior가 등장할 것으로 예상된다.

이러한 변화는 AI 스타트업들에게도 끊임없이 시장의 변화, 특히 고객 기업 및 소비자의 behavior가 바뀌면서 AI 기술에게 요구하는 요구사항들이 바뀌는 것에 주목하면서 그 기회를 놓치지 않도록 요구하고 있다.

이러한 변화에 맞추어 지속적으로 변화, 성장하는 AI 스타트업의 등장과 성장을 기대한다.

Two Cents