Los ISP se clasifican en diferentes niveles según el modo en que acceden al backbone de Internet:

Los ISP de Nivel 1 lideran la jerarquía. Los ISP del nivel 1 son organizaciones enormes que se conectan directamente entre sí a través de conexiones privadas entre pares. Unen físicamente sus backbones de redes individuales para crear el backbone de Internet mundial. Dentro de sus propias redes, los ISP del nivel 1 son dueños de los routers, enlaces de datos de alta velocidad y otros equipos que los unen a otras redes ISP del nivel 1. Incluyen los cables submarinos que conectan los continentes.

Los ISP de Nivel 2 son el siguiente nivel en términos de acceso al backbone. Los ISP del nivel 2 también pueden ser muy grandes, incluso pueden extenderse por varios países, pero muy pocos tienen redes que abarcan continentes completos o se extienden entre continentes. Para brindar a los clientes acceso global a Internet, algunos ISP del nivel 2 pagan a los ISP del nivel 1 para que transporten su tráfico a otras partes del mundo. Algunos ISP del nivel 2 intercambian tráfico mundial con otros ISP a costos menores a través de conexiones de peers públicos a IXP. Un IXP grande puede agrupar cientos de ISP en una ubicación física central para acceder a varias redes mediante una conexión compartida. 

Los ISP de Nivel 3 son los más alejados del backbone. Generalmente, los ISP del nivel 3 se encuentran en ciudades importantes y brindan a los clientes acceso local a Internet. Los ISP del nivel 3 pagan a los ISP de los niveles 1 y 2 para obtener acceso global a Internet y servicios de Internet.