복잡성 과학은 사람의 뇌나 생태계, 주식시장처럼 다양한 요소들이 복잡하게 뒤얽혀 그 작용 과정을 단순한 원리로 설명하기 어려운 ‘복잡계’를 연구 대상으로 하는 과학이다. 복잡계들이 지니는 공통점은 두 가지로 정리할 수 있는데, 그 첫째는 단순한 구성 요소가 수많은 방식으로 상호 작용한다는 점이고, 둘째는 환경의 변화에 수동적으로 반응하지 않고 구성 요소를 재조직하면서 능동적으로 적응한다는 점이다. 가령 사람의 뇌는 수많은 신경세포들이 거미줄처럼 연결되어 있으면서, 끊임없이 회로망을 재구성하면서 학습을 하고 환경에 적응한다. 


복잡계는 단순한 구성 요소들의 끊임없는 상호 작용을 통해, 완전히 고정되거나 완전히 무질서한 상태에 빠지지 않고 보다 높은 수준의 새로운 질서를 형성해 낸다. 이를테면 단백질 분자들이 모여서 생명체를 형성해 내는 것을 생각해 볼 수 있다. 이 때의 생명처럼, 구성 요소가 개별적으로 갖지 못한 특성이나 행동이 구성 요소를 모아 놓은 전체 구조에서 저절로 돌연히 출현하는 현상을 ‘창발성’이라 한다. 이처럼 하위 수준에는 없는 특성이 상위 수준에서 ‘창발’할 수 있는 것은 ‘자기조직화’ 능력 때문이다.


자기조직화와 관련된 대표적인 사례로 프랑스의 물리학자 베나르의 실험 결과를 들 수 있다. 그는 커다란 냄비에 액체를 붓고 천천히 가열했는데, 처음에는 바닥에서 위로 향하는 일정한 열의 흐름이 이루어지지만 바닥과 꼭대기의 온도 차이가 일정한 수준 이상으로 벌어지자 열의 흐름은 갑자기 열의 대류 운동으로 대체되었다. 이 때 열은 매우 많은 분자들의 일관된 운동에 의해 전달되는데, 바로 이 순간에 이전에는 없던 6각형의 세포 모양을 띤 새로운 분자 질서-이를 베나르 세포라 한다.-가 생겨났다. 이처럼 불안정한 비평형 상태에서 미시적인 요동의 효과로 거시적인 안정적 구조가 생겨나는 현상이 바로 자기조직화이다.


자기조직화 분야에서 학문적 성과를 거둔 대표적 인물이 일리아 프리고진인데, 그는 자기조직화의 대표적인 예로 점균류 곰팡이의 응집 현상을 들었다. 점균류 곰팡이는 영양분이 모자라게 되면 서로 신호를 보내 수만 마리가 일제히 요동을 시작하여 한 곳에 모이기 시작한다. 이것이 어떤 수준에 도달하면 그들은 응집 덩어리를 형성하고 하나의 유기체처럼 정원을 기어다니며 영양을 섭취한다. 그러다가 환경이 좋아지면 다시 흩어져서 단세포 생물의 자리로 돌아간다. 기아 상태의 위협에 직면했을 때 하나의 덩어리로 뭉쳐서 그 위협을 이겨내는 점균류 곰팡이의 자기조직화는 환경에 대한 적응의 경이로운 본보기라고 할 수 있다. 


자기조직화 이론은 세계를 이해하기 위한 연구뿐만 아니라 세계를 변화시키는 시도에도 다양하게 활용되고 있다. 여러 가지 사회 현상에 대해 이 이론을 적용한 연구가 이루어지고 있을 뿐 아니라, 비디오게임이나 인공 생명 분야의 각종 소프트웨어 등 자기조직화의 연구를 응용한 다양한 제품들이 생산되어 일상 생활에 여러 모로 영향을 끼치고 있다.


― 이인식, '자기 조직하는 세계'