Nació en Lima el 13 de febrero de 1751, hijo de don Juan Bautista de Baquíjano y Urigüen -primer conde de Vista Florida- y de doña María Ignacia Carrillo de Córdoba y Garcés de Marcilla. Sus padres habían contraído matrimonio en 1746. José Baquíjano y Carrillo fue el tercer poseedor del título nobiliario de conde de Vista Florida, al cual accedió en 1809. Cursó sus estudios en el real colegio de San Martín y en el seminario conciliar de Santo Toribio. Se graduó de bachiller en Derecho Canónico el 18 de febrero de 1765 y dos meses más tarde, el 29 de abril, de doctor en Cánones y Leyes, grados obtenidos en la Universidad de San Marcos. Se recibió de abogado el 5 de diciembre de 1769, al pasar el examen de la Real Audiencia de Lima. Empezó como tutor de estudiantes en Derecho en el seminario de Santo Toribio. Gracias a la acción decidida de su protector Gorrichátegui -rector de dicho seminario-, se convirtió en asistente de éste al ser nombrado obispo del Cuzco. En 1771 Baquíjano fue nombrado profesor de Derecho español y, por lo mismo, fue el primer profesor en enseñar esta materia en el Perú.
El texto más famoso de Baquíjano, pronunciado en 1781, es su Elogio del virrey Agustín de Jáuregui, una velada crítica de las reformas hispánicas que habían perjudicado la hegemonía comercial limeña en Sudamérica. A raíz de este escrito fue censurado por las autoridades españolas y años más tarde, en 1786, tuvo que suscribir unas retractaciones públicas.
Presidente de la Sociedad de Amantes del País y uno de los fundadores del Mercurio Peruano en 1791, el impreso ilustrado peruano más importante del siglo XVIII.
En 1812, el Consejo de Regencia de España lo nombró consejero de estado por lo que al año siguiente partió por tercera vez a España acompañado del joven marqués de Torre Tagle. En 1814, juró como consejero e hizo de su casa de Madrid el centro de los americanos liberales temerosos de las tendencias absolutistas de Fernando VII, de cuyas represalias pudo librarse por la protección del peruano duque de San Carlos y el mexicano Manuel de Lardizábal; sin embargo, la caída de estos lo expuso a las iras reaccionarias y fue confinado en Sevilla.
Finalmente falleció en 1817, en Sevilla.