5 Aralık 1979 yılında Cezayir'de dünyaya gelen Matteo Ferrari, İtalya Ligi kariyerine 1995 yılında Spla'ın altyapısınında başladı. Burada göstermiş olduğu performansla bir sonraki sezon Inter'e transfer olan Cezayir asıllı İtalyan oyuncu, Inter kariyerinde daha çok başka takımlarda kiralık olarak geçirdi. 1997-1998 sezonu Genoa'ya kiralık olarak gönderilirken hiç maç yapamadan sezonu tamamladı. 1998-1999 sezonunda tekrardan Inter'le sezon başı antrenmanlarına çıkan Ferrari, kiralık olarak bu sefer Lecce'ye gönderildi ve sarı-kırmızlı takımla toplam 11 maça çıkıp sezonu tamamladı. 1999-2000 sezonunu Bari'de kiralık olarak forma giydikten sonra 2001-2002 sezonunda bu sefer Parma'ya kiralık olarak verildi ve bu kulüpte 13 maçta sahaya çıkarken sergilemiş olduğu futboldan ötürü, Parma bonservisiyle beraber bu oyuncuyu kadrosuna kattı.

2002-2004 yılları arasında Parma forması giyen Matteo Ferrari kendisinden beklenen patlamayı bir türlü gerçekleştiremezken, sarı-mavililerle toplam 16 kere yeşil sahalara adımını attı. 2004 yılında Roma'ya satılan Ferrari, 2005-2006 sezonunda alışık olduğu gibi bu sefer Premier League ekiplerinden Everton'a kiralık olarak gönderildi. Kariyerinde ilk kez düzenli olarak forma şansı bulan Ferrari burada sergilemiş olduğu başarılı performanstan dolayı tekrar Rom yolunu tuttu ve 2008 yılında Genoa'ya satıldı.

2008-2009 sezonunu Genoa'da geçiren Ferrari takımının Gabriel Milito ile en önemli isimlerinden biri oldu ve 32 kez Genoa formasını terletti. Kariyerinde yükselişe Genoa ile geçen Ferrari, daha çok kiralık olarak İtalya kariyerini noktalamış oldu. Daha sonra Beşiktaş ve Montreal Impact formalarını terleten Ferrari, 2014 yılında futbol kariyerini noktaladı.