El popular actor también fue el creador de un personaje memorable en la década de los 80 y 90: el campechano abogado defensor dela serie Matlock. Sin embargo, fue su interpretación del sheriff Andy Taylor en The Andy Griffith Show, en la década de los 60, lo que le dio un papel relevante en la historia de la televisión estadounidense. El programa retrataba el día a día en la ciudad ficticia de Mayberry, Carolina del Norte, localidad que se cree que estaba basada en la propia ciudad natal de Griffith, Mount Airy, en el mismo estado.