Анкович свою молодёжную карьеру провёл в «ГОШК (Габела)» и «Неретве». Свою профессиональную карьеру начал в «Хайдуке» из Сплита. Всего за «Хайдук» провёл 326 матчей и забил 250 голов, став легендой клуба. В 1966 году на 2 сезона перешёл в немецкий «Кайзерслаутерн». Закончил свою карьеру в 1968 году в австрийском «Брегенце».