상업 항공기의 사고율은 매우 낮다. 사망사고의 경우 2020년 100만 편당 0.27명에 불과하다. 이는 강력한 컴퓨터와 숙련된 파일럿의 시너지 덕분이다. 이들은 정교한 피드백 시스템하에서 서로를 보완한다. 비행기에 달린 수십 개의 센서로부터 얻은 데이터를 처리해 안정적인 궤도를 유지하고, 파일럿은 컴퓨터의 판단이 옳은지 모니터링하며 비행기의 위치와 궤적을 끊임없이 관찰한다. 비행기의 안전을 위협할 경우 컴퓨터는 파일럿의 명령을 무시할 수 있고, 파일럿 역시 필요하다면 자동항법장치를 끌 수 있다.
알고리즘의 피드백 루프
컴퓨터와 파일럿은 서로를 보완하지만 항상 완전한 것은 아니다. 2009년 6월 브라질 리우데자네이루 국제공항에서 프랑스 파리로 출발한 에어프랑스 447편 사고가 대표적인 사례이다. 비행속도 센서인 피토관(pitot tube)이 얼어 오류가 발생하자 컴퓨터는 운항을 부분적으로 파일럿에게 넘겼다. 수동운항 이후 기체는 이미 최대 고도에 가까워진 상태였지만 부조종사는 센서 오류 탓으로 기체가 점점 땅을 향해 가고 있다고 판단해 기수를 더욱 상승시켰다. 기체는 결국 최대 고도에 도달해 상승력을 잃고 땅으로 추락하기 시작했다. 컴퓨터가 경고를 보내자 조종사들은 기수를 더욱 올렸다. 기수를 올리자 경고음이 꺼졌다.
하지만 이는 극단적인 고도 데이터가 입력되자 컴퓨터가 스스로 데이터를 분석할 수 없는 상황이라고 판단해 운항을 조종사에게 넘겼기 때문이었다. 치명적인 피드백 루프 상황이 발생한 것이다. 기계는 데이터가 신뢰할 만하다고 판단한 범위 내에서 경고를 했고, 인간은 경고에 반응했다. 결국 비행기는 대서양에 추락해 탑승자 216명 전원이 사망했다. 이러한 피드백 루프의 위험성은 약 70년 전부터 제기됐다.
수학자인 노버트 위너 매사추세츠공대(MIT) 교수는 인간과 기계 동작을 조종하는 데 필요한 피드백과 피드백 루프에 관한 일반 이론을 구상했고, 이를 통해 피드백 시스템의 요소가 잘못된 루프에 빠지면 대참사를 일으킬 수 있음을 예견했다.
피드백 효과와 시장의 집중화
오늘날 피드백 효과는 시장의 집중화 현상이라는 위험을 야기한다. 과거 시장 집중 현상은 규모의 경제와 네트워크 효과에 의해 발생했다. 한 공장에서 1주일 동안 자동차 1000대를 만든다면, 늘어난 생산량에 고정비용이 분산되므로 자동차 대당 비용은 내려간다. 제조업에서 시작된 규모의 경제는 소매점과 서비스업 등 경제 전반에 확산됐고, 소비자는 덕분에 낮아진 가격과 다양한 상품의 혜택을 받았다. 네트워크 효과는 20세기 전화망 시장이 AT&T를 중심으로 통합되면서 발생했다. 가입자 증가는 연락 가능한 사용자 증가를 의미하므로 가입자 전체의 효용 증가로 이어졌다.
서비스 자체가 개선된 것이 아니지만 서비스가 좋아지는 것처럼 느껴진 것이다. 네트워크 효과는 인터넷 시대의 시장 집중화 심화에도 일조했다. 네트워크 효과로 인해 인터넷이 디지털 정보 흐름을 지배하면서 페이스북, 트위터, 인스타그램 등과 같은 SNS 플랫폼이 성공했고, 다양한 중개 플랫폼의 가치가 높아졌다. 피드백 효과는 데이터 중심의 경제에서 시장 집중화를 심화시키는 새로운 요인이다. 구글 검색을 자주 사용하게 되면 자동완성 기능이 강화되고, 맞춤법 기능 역시 개선된다. 의료진단 인공지능인 IBM 왓슨이 폐암 환자의 사진을 많이 접할수록 폐암에 대한 진단 정확도가 높아지는 것과 같다.
이들 세 효과는 배타적이지 않다. 아마존은 규모의 경제만으로 낮은 비용과 다양한 상품이라는 편익을 소비자에게 제공할 수 있다. 아마존 사용자가 많아질수록 상품 리뷰를 남기는 고객이 많아져 더 매력적인 공간이 된다. 한편 고객의 쇼핑 데이터가 많아질수록 아마존의 추천 엔진뿐만 아니라 인공지능 스피커 알렉사의 성능을 높이는 데 활용된다. 규모의 경제는 비용을 낮추고, 네트워크 효과는 효용을 확대하며, 피드백 효과는 제품을 개선해 시장 집중화가 초래되는 것이다.
데이터 공개를 통한 분산화 필요
시장 집중화만으로 정부의 개입이 정당화되지는 않지만 일반적으로 경쟁을 저해하는 요소임에는 분명하다. 지금까지 규제 당국은 규모의 경제와 네트워크 효과에만 주목할 뿐 피드백 효과의 위협은 체감하지 못하는 듯하다. 피드백 효과는 많은 양의 데이터로부터 발생하고, 사용자가 많을수록 유리하다. 오늘날 플랫폼 기업들의 시장점유율이 초기 한계치까지는 성장이 더디다가 이후 급격하게 상승하는 이유다. 규모가 큰 기업일수록 유리하다는 의미다. 세상에 없는 아이디어로 알고리즘을 만들어 창업한 스타트업일지라도 피드백 데이터 없이는 이들의 경쟁 상대가 될 수 없다.
