El famoso pub, oficialmente llamado The Bell in Hand, abrió sus puertas en 1860 en la casa del inmigrante irlandés William «Pa» McGillin, propietario y operador del establecimiento. Los que frecuentaban el establecimiento lo apodaron McGillin’s, y el bar adoptó el título como nombre oficial. «Pa» McGillin dirigió el establecimiento hasta su muerte en 1901. Entonces su esposa Catherine, conocida como «Ma» McGillin, continuó dirigiendo el negocio, que había crecido hasta abarcar la casa de ostras de al lado, así como el resto de la casa de los McGillin, desplazando a sus 13 hijos. «Ma» dirigió el restaurante hasta su propia muerte en 1937, a la edad de 90 años.
Después de la muerte de Ma, la taberna fue dirigida por su hija, Mercedes McGillin Hooper, hasta 1958, cuando la vendió a Henry Spaniak y Joe Shepaniak, hermanos y experimentados camareros (que utilizaban diferentes grafías de sus apellidos). Desde 1993, el bar es propiedad de la hija de Henry, Mary Ellen Spaniak Mullins, y su marido Chris Mullins. Su hijo, Christopher Mullins, Jr., también ayuda a dirigir las operaciones diarias.
El suelo de baldosas de cerámica (piso principal), aunque no es original del bar, fue instalado por «Pa» McGillin porque estaba «cansado de sustituir los suelos de madera por el desgaste de las botas de los trabajadores». William tomó la idea de una carnicería local: poco desgaste y fácil de limpiar».
Hay una campana de barco y una campana de vaca detrás de la barra que los camareros hacen sonar cuando reciben una buena propina. También la hacen sonar para «gonguear» o «abuchear» a un mal cantante de karaoke. Durante un partido de los Philadelphia Phillies, los Philadelphia Eagles de los Philadelphia Sixers, el Philadelphia Union o los Philadelphia Flyers, es de esperar que la campana suene cuando el equipo local marque un gol.
La web política PoliticsPA lo incluyó en su lista de restaurantes frecuentados por políticos.
En 2013, la revista Gourmet calificó a McGillin’s como uno de los 3 bares más cool de Estados Unidos. En 2007, la revista comercial nacional Nightclub and Bar incluyó a McGillin’s en su lista de los 100 mejores bares y clubes de Estados Unidos elegidos por los editores. La lista se basa en los ingresos anuales, la eficacia del marketing y la publicidad, la singularidad del mercado y otros factores. Y muchos medios de comunicación han calificado a McGillin’s como uno de los pubs irlandeses más auténticos de Estados Unidos, como USA Today, Huffington Post, Fodor’s, The Daily Meal, MSN y Orbitz.