Большая часть игроцкой карьеры Петковича прошла в белградском ОФК, за этот клуб за 15 лет он сыграл более 500 матчей. Петкович также засветился во французском «Труа», впрочём, это было под занавес карьеры, и на легионерском поприще лавров Илие не снискал. На тренерскую стезю нынешний рулевой сборной Сербии и Черногории ступил в родном ОФК, одно время параллельно возглавляя юношескую сборную Югославии, затем перебрался в швейцарский «Серветт», с которым выиграл чемпионат страны.
В 1996 году сербский специалист занял должность помощника главного тренера национальной команды Слободана Сантрача, вместе с которым вывел команду на чемпионат мира 1998 года. После мирового первенства Петкович ушёл из сборной, перебравшись сначала в Грецию, а затем в Японию. Первое пришествие 60-летнего специалиста на пост главного тренера национальной команды случилось в 2001 году, и было оно сколь недолговременным, столь и неудачным.
Зато второе оказалось куда более успешным. Приняв в июле 2003 года команду, только что потерпевшую «позорное» поражение от азербайджанцев, Илия Петкович за короткое время превратил её в одну из сильнейших в Европе. В десяти матчах отборочного турнира сборная Сербии и Черногории пропустила лишь один мяч - это лучший результат на континенте. «Прежде всего, я убедил футболистов в том, что верю в них. Когда игроки знают, что могут рассчитывать на твою поддержку, они меньше нервничают, следовательно, меньше ошибаются.
Для того, чтобы хорошо действовать в обороне, нужна сыгранность, следовательно, несколько матчей необходимо провести в одном и том же сочетании. Вся команда должна принимать участие в обороне - форварды - участвовать в отборе в середине поля, а полузащитники - страховать игроков задней линии, закрывая свободные зоны. Откровенно говоря, у меня в команде собраны исполнители высокого класса, - делится Петкович секретом успеха. - Основа нашей тактики - надёжная игра в защите, и, пока успех не обходит нас стороной, я не собираюсь что-либо менять.
Но мы не сугубо оборонительная команда. Надёжная защита, полузащитники-творцы, современные форварды и очень сильный дух коллективизма - вот рецепт побед. Многие не могут выговорить слова Сербия и Черногория. Мои игроки горят желанием сделать, так, чтобы эти слова были у всех на слуху».
Результаты жеребьёвки, которые ввергли болельщиков балканской команды в шок, несколько поумерили оптимизм тренера - Аргентина и Голландия - это «группа смерти». Тем не менее, Илия Петкович, сын которого Душан несколько лет назад выступал в московском «Спартаке», продолжает утверждать, что его команда «едет в Германию, чтобы сыграть больше, чем три матча».