Бисмарк, со своей стороны, решил, не порывая отношений с Россией, строить дальнейшую политику в тесном сотрудничестве с Австро-Венгрией. Именно германский канцлер стал архитектором той системы военно-политических союзов, которая начала формироваться в Европе после Берлинского конгресса. Краеугольным камнем этой системы стал Австро-германский сою, заключенный в 1879 г. и сохранявший силу вплоть до конца Первой мировой войны. Австро-венгерская дипломатия вовлекла в орбиту этого союза Сербию, которая с 1881 по 1903 г. фактически являлась австрийским протекторатом.
Ещё на Берлинском конгрессе Бисмарк в согласии с британской дипломатией подтолкнул Францию к захвату Туниса, где преобладали итальянские экономические интересы. Как и рассчитывал германский канцлер, французская оккупация Туниса в 1881 г. привела к обострению франко-итальянских отношений и к сближению Италии с австро-германским блоком. В 1882 г. был заключён Тройственный союз Германии, Австро-Всенгрии и Италии, ставший вторым важным шагом к созданию бисмарковской системы союзов. К этому союзу вскоре присоединилась Румыния, которая надеялась с его помощью отобрать у России Бессарабию.