TCP/IPのプロトコル群は、次の図に示すような、階層をなしています。
データを送る側にも、データを受け取る側にも、同じ階層のプロトコルが
あり、データを送るときには、高い階層から低い階層にデータが渡され、
データを受け取るときには、低い階層から高い階層にデータが渡されます。
この時、高い階層から低い階層にデータが渡されるにつれ、それぞれの階層の
アドレス等の通信制御情報が付け加えられ、逆に、低い階層から高い階層に
データが渡されるときには、これらの制御情報は取り除かれます。
| 階層 | 機能 |
| プロセス層 | ネットワークを利用するアプリ |
| トランスポート層 | エラー検出と訂正など ポート番号 |
| ネットワーク層 | データグラムの定義と経路制御 IPアドレス |
| データリンク層 | 物理ネットワークへのアクセス |
OSI モデルでは、７つの 階層を定義していますが、TCP/IP はそれより以前でしたので、元々は上の４階層 で理解されていました。従って、OSI 的に考えると矛盾する場合もありますが、 IP の階層はそれなりに独立性が高くなるように考慮されているのです。しかし、 OSI 的な見方は一般的ですので、3〜5の OSI 的な機能で定義されることが多いようです。 一方、そのために、ICMP などのプロトコルは ２つの階層にまたがったりして、逆に理解しにくい場合もあります。本書では、 取り敢えず下の５階層で説明することにします。
| 階層 | 各種のサービス |
| アプリケーション層（プロセス層） | telnet,ftp,rlogin,rcp |
| トランスポート層 | TCP,UDP |
| ネットワーク層 | IP |
| データリンク層 | Ethernet |
| 物理層 | ケーブル などを含む |