『한서』 「예문지」를 보면 "스승이 죽자 문인들이 그것을 모아 논의하여 편찬하였으므로 "논어論語"라고 한 것이다"라고 했다. 어떻게 보면 『논어』는 단편적으로 문장들을 모아놓았고 실제로 읽어보면 일관된 배열의 원칙도 살펴지지 않는 책이다. 문장 상호간의 연관성도 부족하다. 짧은 편폭임에도 불구하고 중복되는 장절이 출현하고, 앞에 나왔던 말이 뒤에서 약간 다르게 인용되는 경우도 있다. 사마천의 기록대로 공자의 핵심 제자와 제자의 제자들이 모은 자료들이 수십 년의 시차를 두고 편찬된 것은 분명한 사실이다. 이러한 『논어』는 공자가 죽고 난 뒤 얼마 안 된 춘추 말에서 전국 초기에 현재의 판본에 근접한 모습으로 등장했을 것으로 추정된다.
어록집으로서 『논어』가 갖는 비체계성은 오히려 이 책의 가치를 더욱 드높여준 것으로 판단된다. 공자의 "술이부작述而不作" 원칙 덕분에 오히려 책에서 공자의 언행과 생활 습관 등이 잘 드러나기 때문이다. 우리는 『논어』에서 철저히 비주류로 살다 간 실패한 정치인이 어떻게 위대한 사상가의 자세를 함께 견지하는지를 생생하게 살펴볼 수 있다.
제자들이 엮었기 때문에 스승의 언행을 털끝 하나 건드리지 않고 그대로 엮었을 가능성이 크다. 말하자면 윤색을 가해서 미화하거나 왜곡하지 않았다는 말이다. 사람 냄새가 나는 그런 책, 풋풋하고 싱그러운 멋도 있는 그런 말씀, 때로는 인간 공자의 편견과 아집, 쓸데없는 자존심도 그대로 실려 있는 그런 인간다운 어록집이란 말이다. 적어도 공자의 제자들과 제자들의 제자들은 교육을 잘 받은 듯하다. 아무래도 스승이 다소 거슬리는 말을 하면 그것을 재편집해서 수록하고 싶기도 했을 터인데 그들은 그러지 않았다. 아마 제자들은 공자의 허례허식 비판이나 내용과 실질이 다른 위선에 대한 성찰을 깊이 받아들였으리라고 생각된다.
『논어』는 공자의 제자들에 의해 세상에 나온 직후부터 줄곧 베스트셀러였다. 물론 진시황의 분서갱유 시기에는 다른 모든 책과 함께 잠깐의 휴지기가 있었지만, 그 시기를 제외하고 『논어』는 그침없는 강물처럼 읽혔으며 중국을 넘어 동아시아 모든 국가가 아침저녁으로 자구字句 하나하나를 곱씹듯이 음미해온 책이다. 따라서 『논어』는 원전에 맞게 읽는 것이 중요하다. 유학이 국교나 다름없을 정도의 권위를 자랑한 중국과 우리나라에서는 『논어』의 자구 하나로 중요한 정치적 판단을 내리기도 했기 때문에 『논어』의 "가치"를 제대로 파악하기 위해서는 번역 작업에서도 "원문原文"에 대한 충실성을 최대한 높여야 마땅했다. 특히 공자가 살던 시기에 통용된 단어의 의미와 문법을 항상 염두에 두면서 우리말로 옮겼으며, 『논어』에 나타난 공자와 제자들의 삶과 당대의 분위기 등은 『시경』 『예기』 『사기』 『노자』 『맹자』 등 선진·양한 시대의 저작들을 세밀하게 참조해서 전달될 수 있도록 했다.
제자가 공자에게 묻는 것은 "여쭈었다"로, 공자가 말하거나 대답하는 것은 "공자께서 말씀하셨다"로, 공자가 상급자의 질문에 답할 때는 "대답하셨다"로 옮겼다. 그 외에 제자들끼리의 대화는 반존칭으로, 제자들이 혼자 말하는 부분은 "말했다"로 통일했는데, 이는 『논어』가 대화이고 구어체라는 점을 감안해 존대법 등을 최대한 당시의 상황에 합당하게 옮기기 위한 것이었다.