ALT Linux Team development discussions
 help / color / mirror / Atom feed
From: "Kirill A. Shutemov" <kirill@shutemov.name>
To: ALT Linux Team development discussions <devel@lists.altlinux.org>
Subject: Re: [devel] git.alt build architecture
Date: Mon, 18 May 2009 13:36:03 +0300
Message-ID: <cc557aab0905180336m35491af4o42e589482e3da1f4@mail.gmail.com> (raw)
In-Reply-To: <20090518091123.GC14952@altlinux.org>

2009/5/18 Alexey Tourbin <at@altlinux.ru>:
> On Mon, May 18, 2009 at 11:37:37AM +0300, Kirill A. Shutemov wrote:
>> 2009/5/18 Alexey Tourbin <at@altlinux.ru>:
>> > On Mon, May 18, 2009 at 03:11:59AM +0300, Kirill A. Shutemov wrote:
>> >> Насколько я понимаю, архитектура сборки с использованием git.alt уже более-менее
>> >> устоялась. К сожалению, никакой документации описывающую эту архитектуру я не
>> >> нашёл. Может ли кто-либо из разработчиков, сделать обзор архитектуры сборочницы.
>> >> В частности, интересует какие компоненты вовлечены в процесс и как они
>> >> взаимодействуют между собой.
>> >
>> > Есть два главных компонента системы: girar и girar-builder.
>> > girar это то что обслуживает ssh доступ к git.altlinux.org.
>> > girar формирует задания для сборки.  Далее эти задания
>> > забирает на сборку girar-builder.
>> >
>> > Задание -- это каталог со специальной структурой (ближайшая аналогия --
>> > каталог /proc/$pid).  Структура каталога описана в файле
>> > girar-builder/TASK.  Описание может быть неполным или неточным,
>> > но оно дает правильное первоначальное представление.
>> >
>> > Процедура сборки задания находится girar-builder/gb-run-task.
>> > Задание состоит из нескольких стадий, которые выполняются в режиме
>> > 'sh -e' (то есть, когда одна из стадий завершается с ошибкой, остальные
>> > стадии не выполняются).  Последние стадии задания -- это копирование
>> > собранных пакетов в репозитарий и перегенерация репозитария.
>>
>> Я так понимаю, что сборка на разных архитектурах сейчас сильно связана
>> по времени. Т.е. имея одну медленную архитектуру(ARM, например), мы
>> будем тормозить сборку в целом. Даже отключение отдельных ресурсоёмких
>> проверок на медленной архитектуре не поможет, если время сборки rpm-ок
>> будет существенно отличаться.
>
> Да.  Самым ресурсоемким следует считать сборку пакетов, а girar-builder
> дает почти что константный оверхед (в районе пяти минут на задание).
> Сейчас неконстантно много ресурсов жрёт проверка с --whatprovides,
> но она будет переделана.
>
>> Возможно ли с этим что-нибудь сделать? Т.е возможно ли сделать
>> распараллеливание по архитектурам на болле высоком уровне, чем это
>> происходит сейчас, что бы сделать архитектуры менее синхронными.
>
> Я не вижу такой возможности.  Мы реализуем жесткую синхронизацию
> архитектур, и в некоторых случаях она объективно необходима (например,
> для пакетов с noarch подпакетами).  Одной из первых стадий задания
> является сборка пакетов на всех архитектурах.  Значит, пока все пакеты
> не соберутся, ничего предпринимать нельзя.

А если отодвинуть проверки, которые требуют пакеты всех собираемых
архитектур (типа проверки на идентичность noarch), на более поздний этап?
Ведь, часть проверок не требуют одновременного наличия пакетов всех
архитектур? Таким образом за счёт отключения части проверок (теста
устанавливаемости, например) на медленных архитектурах можно попробовать
частично компенсировать потерю в скорости на этапе сборки.

  parent reply	other threads:[~2009-05-18 10:36 UTC|newest]

Thread overview: 14+ messages / expand[flat|nested]  mbox.gz  Atom feed  top
2009-05-18  0:11 Kirill A. Shutemov
2009-05-18  6:09 ` Alexey Tourbin
2009-05-18  8:37   ` Kirill A. Shutemov
2009-05-18  9:11     ` Alexey Tourbin
2009-05-18  9:25       ` Alexey I. Froloff
2009-05-18 10:20         ` Kirill A. Shutemov
2009-05-18 10:36       ` Kirill A. Shutemov [this message]
2009-05-18 12:36       ` Victor B. Wagner
2009-05-18 12:38         ` Mikhail Gusarov
2009-05-18 12:54         ` Kirill A. Shutemov
2009-05-18 13:21         ` Alexey I. Froloff
2009-05-18 13:28           ` Victor B. Wagner
2009-05-18  8:34 ` Afanasov Dmitry
2009-05-18 19:53   ` Alexey Rusakov

Reply instructions:

You may reply publicly to this message via plain-text email
using any one of the following methods:

* Save the following mbox file, import it into your mail client,
  and reply-to-all from there: mbox

  Avoid top-posting and favor interleaved quoting:
  https://en.wikipedia.org/wiki/Posting_style#Interleaved_style

* Reply using the --to, --cc, and --in-reply-to
  switches of git-send-email(1):

  git send-email \
    --in-reply-to=cc557aab0905180336m35491af4o42e589482e3da1f4@mail.gmail.com \
    --to=kirill@shutemov.name \
    --cc=devel@lists.altlinux.org \
    /path/to/YOUR_REPLY

  https://kernel.org/pub/software/scm/git/docs/git-send-email.html

* If your mail client supports setting the In-Reply-To header
  via mailto: links, try the mailto: link

ALT Linux Team development discussions

This inbox may be cloned and mirrored by anyone:

	git clone --mirror http://lore.altlinux.org/devel/0 devel/git/0.git

	# If you have public-inbox 1.1+ installed, you may
	# initialize and index your mirror using the following commands:
	public-inbox-init -V2 devel devel/ http://lore.altlinux.org/devel \
		devel@altlinux.org devel@altlinux.ru devel@lists.altlinux.org devel@lists.altlinux.ru devel@linux.iplabs.ru mandrake-russian@linuxteam.iplabs.ru sisyphus@linuxteam.iplabs.ru
	public-inbox-index devel

Example config snippet for mirrors.
Newsgroup available over NNTP:
	nntp://lore.altlinux.org/org.altlinux.lists.devel


AGPL code for this site: git clone https://public-inbox.org/public-inbox.git