极度深寒

비드래프트 논문 하나가 만든 삼단 구조…연구·AX-RAY·국가 보안 AI_我的网站

hold

A | 엔비디아 Nemotron-H·자이프라 Zamba2서 인과 결함 발견, 순전파 2회로 결함 층 특정해 192건 전부 탐지발견한 진단 기술을 자사 AX-RAY로 제품화, 정부 보안 특화 파운데이션 모델 사업 핵심 검증 기술로 연결 비드래프트. 사진=비드래프트논문 한 편에서 시작된 연구 성과가 제품을 거쳐 국가 사업으로 이어지는 구조가 만들어졌다. AI 딥테크 기업 비드래프트(대표 김민식)가 공개 AI 모델의 구조적 결함을 찾아낸 자체 연구를 AI 안전성 진단 시스템 'AX-RAY'로 발전시키고, 이를 정부의 '사이버 보안 특화 인공지능 파운데이션 모델 개발' 사업 핵심 검증 기술로 제시하는 전략을 펴고 있다.출발점은 비드래프트가 지난 24일 arXiv에 공개한 논문 'The Mask Is Not the Model: Auditing Prefix Invariance in Attention, State-Space, and Hybrid Sequence Models'다. 연구진은 자기회귀 AI 모델이 원칙적으로 볼 수 없는 미래 토큰의 정보를 앞선 계산에 사용하는 '인과 누설'을 직접 판정하는 새로운 진단 방법을 제시했고, 이를 엔비디아의 Nemotron-H-8B와 자이프라의 Zamba2-1.2B에 적용해 두 모델의 PyTorch 실행 경로에서 실제 인과 누설을 확인했다.기존 검사 방식은 어텐션의 causal mask 정상 여부 확인에 주로 의존해왔지만, 최근 모델이 상태공간모델(SSM)·순환연산·합성곱·청크 스캔 등을 결합한 하이브리드 구조로 발전하면서 마스크가 정상이어도 다른 경로로 미래 정보가 유입될 가능성이 생겼다는 게 연구진의 지적이다. 새 방법은 마지막 위치만 다른 두 입력을 각각 한 번씩 순전파해 각 층의 앞부분 내부 표현 변화를 비교하는 방식으로, 학습이나 그래디언트 계산 없이 순전파 두 번만으로 인과성이 깨지는 층을 특정할 수 있다. 인위적으로 주입한 인과 결함 192건 실험에서 기존 마스크 점검은 이를 놓쳤지만, 새 방법은 192건 전부를 정확한 층 단위로 탐지해냈다. 비드래프트. 사진=비드래프트연구는 여기서 멈추지 않았다. 비드래프트는 오픈소스 라이브러리 transformers 5.7.0의 청크 스캔 구현을 코드 수준에서 비교해 입력·출력 청크 축 처리 방식의 차이를 먼저 짚어냈고, 실제 모델 검사에서 Zamba2-1.2B는 청크 크기 256부터, Nemotron-H-8B는 128부터 누설이 시작됨을 확인했다. Bamba-9B, Falcon-H1, Granite-4.0-H, Mamba2, RecurrentGemma 등에서는 같은 문제가 나타나지 않아 코드 분석 예측과 실제 결과가 정확히 맞아떨어졌다.이 발견이 중요한 것은 인과 누설이 성능 지표 자체를 왜곡할 수 있기 때문이다. 미래 정보가 현재 예측에 유입되면 다음 토큰 예측이 쉬워져 학습 손실과 혼란도(PPL)가 좋아 보일 수 있다는 게 회사 설명이다. 벤치마크 점수만으로는 인과 결함 여부를 뒤집을 수 없다는 것이 비드래프트의 입장이다.이렇게 확보한 진단 기술은 AX-RAY로 이어졌다. AX-RAY는 벤치마크 점수 확인을 넘어 실제 실행 코드와 모델 구조가 의도대로 작동하는지, 구조적으로 위험한 경로나 비정상적인 인과 의존성이 있는지를 계측하는 시스템이다. 외부 파운데이션 모델 도입 시 가중치뿐 아니라 구현 코드와 실행 환경까지 함께 사용된다는 점에서 이 같은 검증이 필요하다는 게 비드래프트의 판단이며, 관련 기술은 논문 공개 전 국내 특허 출원과 심사 청구를 마쳤다.비드래프트는 이를 발판으로 현재 정부 공모 사업인 '사이버 보안 특화 인공지능 파운데이션 모델 개발' 컨소시엄에 참여해 AX-RAY를 핵심 안전성 검증 기술로 제시하고 있다. 공격 탐지 능력이 뛰어난 모델을 만드는 것 못지않게, 모델 자체에 구조적 결함이나 예상하지 못한 위험경로가 없는지 검증하는 과정이 보안 특화 AI에서 중요하다는 것이 회사 측 설명이다. 단순한 AI 모델 개발사에 머물지 않고, 타 모델의 구현 정확성과 안전성을 독립적으로 검사하는 AI 검증 기술을 확보하는 것이 전략의 핵심이라는 얘기다.김민식 대표는 보안 파운데이션 모델이 성능 좋은 모델을 만드는 데서 끝나선 안 되며, 모델이 실행환경에서 설계된 인과구조를 지키는지, 구조적으로 숨겨진 결함이 없는지 검증할 수 있어야 한다고 밝혔다. “이번 논문은 AX-RAY가 단순한 정책 체크리스트나 정성적 레드팀 도구가 아니라 실제 코드와 실행 결과를 통해 AI의 구조적 안전성을 계측할 수 있다는 기술적 근거를 제시한 것”이라는 게 그의 설명이다.한편 비드래프트는 전 국민 대상 AI 서비스 구축 사업 '모두의 AI'에서도 이스트소프트 컨소시엄에 참여해 AI 모델 성능 최적화와 경량화를 담당하고 있으며, 모델 개발·최적화와 AX-RAY 기반 안전성 검증을 함께 확보해 성능·실행 효율·구조적 안전성을 하나의 기술 스택으로 구축한다는 계획이다.。近日，美媒报道称特朗普政府拟提议禁止中国航空公司在往返美国的航班上飞越俄罗斯领空，认为这种做法使美国航空公司处于不利地位。

B | 众所周知，自2022年3月以来西方与俄罗斯便互关了领空，而中国航班仍可以使用俄罗斯领空，于是欧美航空公司就感到心理不平衡，认为中方享受了缩短飞行时间和减少燃料消耗的优势。美国航空首席执行官Robert Isom曾公开宣称：“这是一个不公平的竞争环境，将阻碍增加航班的工作。” 美国交通部则在其拟议的命令中表示：“（中国航班使用俄罗斯领空）已成为一个重要的竞争因素，对美国航空公司造成严重不利影响，需尽可能消除美国和中国航空公司之间的竞争差距。” 早在2023年5月，俄罗斯领空问题就成为中美复航谈判的焦点，美方同意中国航空公司增加两国间航班数量，但前提是新航班不得飞越俄罗斯。 2024年，中美达成协议，双方航空公司原则上共可运营每周100班定期客运航班，中方50班，美方50班。截至目前，中方的六家航司早已把每周50个航班飞满，而美国航司尚未用满额度，采取了一种“软对抗”的方式。

C | 飞过美国的朋友一般都清楚，北京、上海到美国西海岸城市（西雅图、旧金山、洛杉矶）的航线通常是走北太平洋，即日本→阿留申群岛，不太受俄罗斯关闭领空限制。但飞美国东海岸城市（纽约、华盛顿、波士顿）则是向北经西伯利亚、北极和加拿大，这样的航线最短、最经济。现在俄罗斯领空对欧美航空公司关闭，导致它们只能绕道、减少载客或被迫在阿拉斯加安克雷奇加油，相较中国航空公司明显增加了运营成本。

D | 于是美联航、达美航空和美国航空等三大航司便向华盛顿施加压力，希望禁止中国航班在前往及离开美国时使用俄罗斯领空，恢复所谓的“公平竞争地位”。美国民航设置了大量禁飞区与警示区，图中红色为禁止飞行区域、黄色为警示性避免飞行的空域。

E | 对于航空公司来说，国际航线通常比国内航线要赚钱，尤其是商务客较多的国际航线（如：上海至旧金山、北京至纽约），堪称航空公司的摇钱树。 2024年，中国民航旅客、货物运输量较疫情前的2019年分别增长了10.6%和19.3%，但盈利却并未跟上。其中一个原因即国际客运航班仅恢复至疫情前的84%，特别是飞北美的航班，恢复尤其缓慢。 2024年，香港国泰航空的业绩令人大为惊叹，其营收折合人民币966.5亿元，净利润折合人民币91.57亿元，后者创下近十三年以来的纪录，是内地最赚钱的春秋航空净利润的4倍多。国泰航空利润的重要来源之一即北美航线——因大陆的北美航线恢复缓慢，许多乘客选择中转香港，导致国泰直接赚疯。同样的逻辑，日本和韩国的航空公司也成为中国大陆转机飞北美的主要受益者。

F | 有朋友要问了，既然国内航司有这么多去东京、首尔的航班，那能否直接增加几条“中国内地城市→东京/首尔→美国城市”的航线呢？答案是不行，因为牵扯到“航权”的问题。

G | 九种航权的示意图，蓝色代表国内市场，红色（航权授予国）和黄色表示国外市场。民航飞机的“航权”共分为九种：第一航权：飞越领空而不降落。冷战结束后几乎所有国家都开放了第一航权，但自俄乌冲突爆发以来，西方与俄罗斯又互相取消了第一航权。

H | 第二航权：技术经停，但不得上下客货。第二航权大家一般都会互相开放，一方面是为了远距离中途加油，另一方面也是为了防止一些突发紧急事件。第三航权：在目的地下客货。第四航权：在目的地上客货。所谓直航即至少拥有第三、第四航权，因为这两种航权为最基本的商业活动权利。第五航权：中间点权，有权途经两个外国并上下客货。

I | 从第五航权开始就属于比较“高级”的权利了，比如：达美航空拥有日本授予的第五航权，可以使航班从美国出发，经停东京进行上下客及货物，再继续前往东南亚各地。日本和韩国对授予外国航司第五航权是非常谨慎的，主要针对新加坡航空、阿联酋航空等“中转型航司”，目前尚无中国航司取得该权利，所以没法推出类似“上海→东京→旧金山”的航线。设想一下，假如中美互相赋予第五航权，则相当于中国航司可以运营“跨大西洋航线”，形成“上海→纽约→伦敦”和“伦敦→纽约→上海”的往返。第六航权：桥梁权，以本国/本地区为枢纽，连通其他两国。对比来说，在日本批准后，新加坡航空可以运营“新加坡—东京—洛杉矶”航线，并能售东京往返洛杉矶的机票，此为新加坡航空获得日本“第五航权”。而香港作为航空枢纽，国泰航空运营着“纽约—香港—曼谷”航线，可以出售纽约往返曼谷的机票，此即自我组合的“第六航权”。第七航权及以上是比较罕见的，等同于开放或部分开放一国的国际/国内航线予外国航空公司经营，并对本国的航空公司造成竞争，此处不再介绍。

J | 文章后半段，让我们回顾一下中美直航的历史。 1972年2月21日，在尼克松访华期间，中国民航向美国波音公司订购了10架波音707客机。当时中国已经恢复在联合国的合法席位，牵扯到要去纽约开会的问题，所以民航方面很快启动了中美试航工作。 1974年3月，中国民航北京管理局使用波音707飞机，同时从东西两个方向试航美国：东线经停日本东京、美国安克雷奇；西线经停巴基斯坦卡拉奇、法国巴黎，最终到达纽约。尽管航线通了，但最初只偶尔服务于公务出访，并未向社会普及。 1979年1月，中美建交，不久后小平同志启动访美行程。小平同志访美的航线为“北京首都→上海虹桥→阿拉斯加安克雷奇→华盛顿”，为确保万无一失，美国还专门派了领航员到虹桥机场登机，一路引导机组人员。 1980年9月17日，中美两国在华盛顿签署《民用航空运输协定》，分别赋予对方航司第二、第三、第四航权，双方随即抓紧筹备通航事宜。 1981年1月7日，中国民航使用波音747SP型飞机开辟“北京-上海-旧金山-纽约”航线。紧随其后，美国泛美航空公司于1月28日开辟“纽约-旧金山-东京-北京”以及“旧金山-东京-上海-北京”航线。以上航线均为每周一班。 1988年，原中国民航拆分为中国国际航空、中国东方航空、中国南方航空等公司，中美航班由国航继续运营。

K | 那个年代中美之间的航班非常少，票价极高，国际机票还得以外汇券去购买，普通居民很难直接获得。

L | 有人估算过，1990年去一趟美国，仅机票花费即相当于一名城市职工两年的总收入，八十年代更是有“一万个农民养活一个留学生”的说法。再往后，随着中国经济不断发展，投资机会增多，中美航线的美方需求开始增长，美国航司强烈要求对中美航权做重新谈判。而中国航空公司普遍不愿意开放，因为九十年代至二十一世纪初中国航空公司实力较弱，商务舱和头等舱的载客率显著低于美国航司。一位中国民航管理干部学院的领导回忆称： “在当时的市场形势下，本土航空公司很难与全球巨头竞争，这就是为什么美国航空公司热衷于飞往中国，而中国的航空公司却迟迟不愿开通更多航班的原因。对于本土航空公司来说，如果不能获得足够的乘客，更多的航班可能意味着更多的亏损。航权谈判一般采取对等原则，我们可以简单理解为“市场准入”，强势的一方希望更高水平地互相开放，弱势一方则要求循序渐进。 2008至2010年间，在奥运会和世博会的推动下，中美航班数量终于迎来显著增长。

M | 最初是“美飞中”比较多，直到2014年11月中美宣布向对方互发十年签证后，中国赴美人数激增，“中飞美”开始占据上风。 2015年，中美航空公司在航班数量上首次持平，全年中国访美人数达259万，美国到中国人数则在210万左右。

N | 之后中国航司在中美航线上的份额逐渐占优，转而成为主动呼吁进一步开放航权的一方。到2019年，中国航司约占中美航线市场份额的55%，中国旅客则占到中美跨太平洋客流的65%以上，美国航司的份额与利润不断遭到挤压。有观点认为，早在疫情前，美国三大航司对于中美航线就已经很不满意，认为钱不好赚，疫情和俄罗斯领空问题只不过是让它们找到了理由，顺水推舟大幅削减航班。最后，借用文章《中美航权争夺40年：蜜月、挣扎、反超，走向未知》里的一段话来结尾： “感谢各位搭乘达美航空的航班来到中国，我们即将停止飞往中国。中国加油。期待不久的将来和您再见。” 一名乘客于2020年2月2日落地北京首都机场，听到达美航空广播后，他意识到自己即将见证历史。本文来自微信公众号：江宁知府，作者：印闲生。