Карьера Сосы началась в 2002 году в «Эстудиантесе». В сезоне 2005/2006 Хосе показывал великолепную игру и помог клубу выиграть чемпионат Аргентины, а тренер клуба Диего Симеоне советовал ему перейти в римский «Лацио», но вопреки всему 24 февраля 2007 года игрок перешёл в мюнхенскую «Баварию». От этой сделки «Эстудиантес» получил 6 миллионов евро плюс 10% от следующей продажи игрока. Контракт игрока рассчитан на 4 года и позволит Хосе заработать за это время 4.5 миллиона евро. В начале 2010 года был отдан в аренду «Эстудиантесу». 30 августа 2010 года подписал 4-летний контракт с итальянским клубом «Наполи».
25 июля 2011 года подписал контракт с украинским клубом «Металлист» сроком на 4 года. Начиная с зимы 2012 года им активно интересуется мадридский «Атлетико Мадрид». Капитан команды с лета 2012 года.