Ses premiers congrès subirent des influences proudhoniennes combattues par Marx, qui les jugeait préjudiciables au mouvement ouvrier. Proudhon était mort en janvier 1865 et l’affrontement n’aurait peut-être pas dépassé celui des idées si Bakounine n’avait pris la relève, en adhérant personnellement à l’Internationale en juillet 1868, comme membre de la Section centrale de Genève.
Bakounine, l’homme des sociétés secrètes aux ramifications internationales, demanda l’entrée dans l’A.I.T. pour la dernière-née, l’Alliance internationale de la démocratie socialiste, qui comptait des adhérents en France, en Espagne et en Italie. Après le refus du Conseil général, il sollicita l’adhésion de l’Alliance au titre de section genevoise, et non plus comme organisme international ; sa demande fut acceptée en juillet 1869, mais refusée par la Fédération romande. Le conflit s’envenimant, la Fédération jurassienne fut créée en novembre 1871, prélude à la naissance d’une Internationale « anti-autoritaire » en septembre 1873, un an après le congrès de La Haye qui vota l’exclusion de Bakounine. Contre les résolutions de La Haye s’étaient dressées, outre la Fédération jurassienne, la Fédération italienne (qui avait rompu avec le Conseil général dès son premier congrès, tenu à Rimini en août 1872), les fédérations belge, anglaise, américaine et hollandaise, ainsi que la Fédération régionale espagnole (lors de son troisième congrès, tenu à Cordoue du 25 au 30 décembre 1872).
Tandis que l’Internationale « marxiste », mourante depuis La Haye, s’éteignait en 1876 aux États-Unis où elle avait émigré, l’Internationale « anti-autoritaire » étendait son influence, animée avant tout par les fédérations italienne et jurassienne. Après quelques années, ce rayonnement diminua, la Fédération belge se ralliant au marxisme en 1877, et la Fédération jurassienne perdant son leader, James Guillaume, venu s’installer à Paris le 1er mai 1878. Quant à la Fédération espagnole, la plus solide à tous égards, elle était réduite à la clandestinité depuis 1874 – cette fédération comptait alors cinquante mille membres– et allait demeurer interdite jusqu’en 1881.
Théorie et pratiques d’action anarchistes mûrissaient cependant au cours de ces années. C’est ainsi que, au congrès de Florence, en octobre 1876, la Fédération italienne, par les voix de Carlo Cafiero et d’Enrico Malatesta notamment, se prononçait en faveur de la propriété collective des produits du travail. Quelques mois plus tard, en avril 1877, ces deux militants inauguraient, devant les paysans de la province de Bénévent, cette « propagande par le fait » – leçon de choses de socialisme – qui allait connaître des développements terroristes pendant des dizaines d’années.
En octobre 1880, le congrès de la Fédération jurassienne, auquel Kropotkine, Élisée Reclus et Cafiero donnaient l’allure d’un petit congrès international, se prononçait pour le communisme anarchiste, après qu’une réunion préparatoire secrète eut préconisé l’action violente et illégale, « seule voie menant à la révolution ». Le congrès international de Londres en juillet 1881 devait confirmer ces prises de position. Ce congrès s’étant par ailleurs déclaré hostile à la reconstitution de l’A.I.T., « cette réédition d’une chose morte ».